Cardano创始人警告：AI可能泄露研究人员未发表的工作

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

卡达诺创始人查尔斯·霍斯金森警告：云端AI平台可能泄露未发表的研究成果

卡达诺（Cardano）创始人查尔斯·霍斯金森（Charles Hoskinson）发出警告，指出基于云端的AI平台可能会暴露研究人员尚未发表的工作及机密想法。他强调，将敏感材料分享给前沿AI模型，可能会给学术界人士和创业者带来知识产权方面的风险。

AI系统的独立性与数据依赖性争议

霍斯金森在讨论涉及数学家杰伊·坎明斯（Jay Cummings）以及OpenAI发布的一项数学成果的事件时提出了上述担忧。他指出，聊天记录可能在审查AI系统如何生成其回应时作为证据使用。他质疑该结果是否由模型独立得出，认为AI系统通常通过优化可用信息来寻求高效解决方案。因此，当模型遇到类似的问题或研究挑战时，先前对话中提供的材料可能会影响输出结果。

这种可能性为在使用托管AI服务开发未发表的理论、产品或商业策略的专业人士带来了不确定性。研究人员依赖专利和专业认可来确立对重要发现的归属权。因此，机密工作的泄露可能会威胁到职业机会、研究资金、商业权利以及应有的署名权。

Midnight协议：保护敏感AI对话的基础设施

霍斯金森提出，Midnight可作为保护用户与人工智能应用程序之间机密互动的潜在基础设施。他解释说，私有计算环境可以在允许服务提供商检查用户对话的情况下提供AI能力——即不让服务提供商窥探用户的对话内容。

这种保护措施将使处理研究草稿、专有方法或商业秘密的学者、开发人员和企业所有者受益。此外，Midnight采用“选择性披露”机制，允许应用程序验证必要的信息，而无需揭示用户活动背后的所有细节。因此，用户在完成活动时，无需管理波动性的原生资产即可访问网络应用程序。

霍斯金森将Midnight描述为在数据驱动的在线系统中恢复隐私和数字身份的重要一步。在区块链开发领域，随着AI在职业环境中日益普及，Midnight旨在保护机密信息。然而，隐私技术无法解决涉及同意、归属权、数据保留以及AI辅助发现所有权等更广泛的争议。

因此，研究人员在上传未发表的发现、专有设计或具有商业价值的文件之前，应仔细审查相关政策。最终，霍斯金森的警告将隐私置于负责任地采用AI的核心位置，并将Midnight作为一种可能的保障措施呈现出来。