当地时间周一，CRM巨头Salesforce的高管们在一场活动中谈到了生成性人工智能对公司的风险，包括难以控制企业数据访问等，同时推出专门针对这一问题的“Einstein Trust Layer”（爱因斯坦信任层）。公司CEO Benioff表示，他所接触的每位CEO都提到了希望快速推进该技术与大型语言模型在企业环境中带来的问题之间的“AI信任差”。

Salesforce表示，新工具可以消除用户的提示或员工输入到人工智能模型中的内容，并防止模型保留包括个人身份信息在内的客户数据。该工具可以应用于公司自己的大型语言模型，或来自亚马逊公司和Anthropic等供应商的语言模型。该工具属于人工智能云套件的一部分，该套件将生成性人工智能嵌入其旗舰客户关系管理软件、Slack以及其他数据可视化、营销和客户服务工具。人工智能云套件每年的订阅费用为36万美元。“Einstein Trust Layer”将于本月正式推出，而其他生成性人工智能嵌入式工具将在今年晚些时候或明年推出。

对于Salesforce而言，说服信息技术领导者相信生成性人工智能可以在他们的数字企业墙内安全使用是至关重要的，因为该公司试图维持今年开始的转机计划。此前Salesforce公布的Q1盈利和收入均超出华尔街的预期，公司CEO Marc Benioff强调了在应对最近的销售放缓和激进投资者的压力时所作出的成本削减方面的努力。

除Salesforce之外，其他大型科技公司也推出了类似工具，帮助客户使用生成性人工智能。甲骨文周二表示，计划与人工智能初创公司Cohere联合发布一项生成式人工智能服务，该服务将包括数据所有权保证和数据来源工具。微软也在今年早些时候将其Copilot生成式人工智能嵌入其商业软件中，并表示其模型将保留公司的安全和隐私控制。

标普全球市场情报公司估计，今年全球基于生成性人工智能技术的收入将达37亿美元，到2028年这一数字将增长到360亿美元。

IT研究和咨询公司Futurum Research的创始合伙人兼首席分析师Daniel Newman表示，“信任是一个被低估但又极其重要的话题。Salesforce已经意识到，生成性人工智能应用程序本身并不像拥有信任数据和技术的用户那样具有差异性。”该分析师认为，与那些提供解决方案以帮助减轻与生成性人工智能相关的一些企业数据风险的初创企业和小型供应商相比，成熟的企业在获得客户支持方面具有优势，特别是针对新兴技术。Salesforce的声誉及大量关键客户数据，可能会帮助它获得客户的支持。