科技让生活更美好
2024年7月5日，世界人工智能大会进入第二天，蚂蚁集团发布“暗语云”大模型加密平台，通过软硬件结合的可信隐私计算技术，实现大模型托管和大模型推理中的数据加密，保护模型资产、数据安全和用户隐私。
leanback桌面屡次停止运行
蚂蚁密码CEO王乐妍介绍，“暗语云”大模型密文平台首批推出两项服务，分别是大模型密文托管和大模型密文推理。大规模模型秘密托管是指模型提供者可以将模型加密托管在平台上，一键完成云端秘密部署，保护模型资产不被泄露和窃取；大规模模型秘密推理是指以秘密的形式对数据进行推理，以保护用户交互时的数据安全和商业秘密。
此外，该平台支持GPU在可信执行环境下进行计算，使得大规模模型推理的响应时间和效率接近密集形式的明文模型，实现了大规模商用。在安全性方面，产品采用内存和磁盘加密方式，实现用户访问的端到端加密和托管模式的跨域访问控制。在易用性方面，产品支持轻量级远程认证，用户在访问网页时无需额外操作步骤即可完成远程认证。
据介绍，隐语云”大模型加密平台提供公有云和私有云交付解决方案，支持市场主流通用大模型。以公有云为例。无论用户是重构新的垂直大模型，还是在平台上部署已有的大模型，都只需要一键部署和接入，比如10分钟就可以完成高可用推理服务的发布。在使用过程中，用户可以根据需要获取秘密计算能力，即开即取。诛仙家族名字大全唯美
王乐妍透露，隐语云大模型加密平台的服务将逐步覆盖垂直大模型从建设到对外服务的全链路数据安全。“接下来，我们将为垂直大模型提供从预训练、微调、评估、推理到用户交互的全流程密集计算服务，实现数据在大模型提供者、数据提供者、大模型使用者之间的可靠安全流动。该平台还将提供大规模秘密模型开发所需的全链路工具，提供的服务包括秘密检索的增强生成、秘密提示和代理进程调度。”三星note30
蚂蚁集团副总裁兼首席技术安全官、蚂蚁米董事长陶伟认为，数据供给决定了大模型应用能力的上限，而隐私计算技术决定了数据跨域供给的上限。当大模型从通用应用走向专业应用，从技术想象走向工业生产力，我们必须解决高质量数据集稀缺和专业数据堵塞的挑战，否则大模型作为“智力引擎”只会陷入空的转弯。在未来，如果要深度整合高价值的数据，必须以保密的方式安全流通。
陶伟表示，蚂蚁集团从2016年开始探索隐私计算技术，能力覆盖全栈可信技术、多方安全计算、联邦学习、同态加密、差分隐私、机密计算等全光谱隐私计算技术。“我们希望携手产业伙伴，以开源和产品化的形式，开放蚂蚁集团多年来在密集计算技术上的探索和创新，帮助推动行业发展，为实体经济和中小企业创造新的价值，让数据价值的流动像自来水一样立即可用。”
目前蚂蚁可信隐私计算的核心技术都是开源的，包括“暗语”可信隐私计算框架和“星爆”可信执行环境操作系统Occlum。此外，他还参与制定了60多项国内外隐私计算技术标准，其中9项国际标准占主导地位。蚂蚁还与国内外50多所高校紧密合作，与中国计算机联合会共同设立了“隐私计算专项研究基金”。
今年5月底，蚂蚁集团公布了以人工智能和数据元技术为核心的科技战略，随后成立了独立的秘密计算公司——浙江蚂蚁秘密计算科技有限公司，将提供秘密计算相关的产品和服务，包括一套端到端的数据安全保障、一套软硬件结合的计算加速解决方案，以及一个私有计算云服务平台，推动数据安全可靠的跨云和跨端低成本流通。(一个橘子)
本文来自网易科技报道。更多资讯和深度内容，请关注我们。
未经允许不得转载：科技让生活更美好 » 蚂蚁集团WAIC 发布大模型密算平台“隐语Cloud”
