工程师就微软AI工具生成暴力和性图像发出警告

微软(Microsoft)的一名AI工程师表示，该公司的AI图像工具生成的暴力和性图像可能会对社会造成危害。

在周三写给联邦贸易委员会(FTC)和微软董事会的信中，首席软件工程经理Shane Jones谈到了他对微软“负责任AI策略”的担忧。

Jones担心，该公司的Copilot Designer工具可能会被用来创建不安全的图像，包括对性化、阴谋论和吸毒的描述。

Jones在给FTC的信中说：“Copilot Designer创建的其他各类有害内容包括：政治偏见、未成年人酗酒和吸毒、滥用企业商标和版权、阴谋论和宗教等等”，他在领英(LinkedIn)上发布了这封信。信中写道：“我曾多次敦促微软停止向公众提供Copilot Designer，直到出台更好的保障措施。”

他说，微软的环境、社会和公共政策委员会应该开展独立调查，帮助微软“以负责任的最高AI标准引领行业”。

Jones在一篇帖子中写道：“我们需要全行业通力合作，并与政府和公民社会紧密合作，就AI的风险和益处开展公众宣传和教育。”

已经在微软工作了六年的Jones说，他从去年12月开始就一直在测试AI图像生成器，发现一些缺陷和安全漏洞可能会让用户生成有害的图像，这些图像可能对消费者具有冒犯性，或者包含不宜内容。

除了信件和领英的帖文外，Jones不予进一步置评。

微软发言人说：“我们致力于按照公司政策解决员工的任何和所有关切，我们感谢该员工努力研究和测试我们的最新技术，以进一步提高其安全性。”

在上个月的一篇博客文章中，微软总裁史密斯(Brad Smith)讨论了该公司致力于让用户安全使用AI的承诺。史密斯说：“来自微软和整个科技领域的这些新工具不断推向市场，在这种情况下，我们必须采取新的措施，确保新技术不会被滥用。”

自2022年末OpenAI的ChatGPT推出后，AI领域出现爆炸式增长。数以十亿美元计的资金涌入该行业，科技巨头和亿万富翁们竞相投入资金，试图得到下一个AI摇钱树。

微软去年推出了Copilot Designer，采用了与OpenAI的ChatGPT相同的技术。该系统结合了OpenAI的DALL-E 3文本到图像生成器，用户在输入一些文字组合或进行描述后会创建图像。

该公司希望通过“Copilot for Microsoft 365”实现其数十年来最大的成功，这是一款AI升级产品，可插入Word、Outlook和Teams等软件。

Jones的信披露之前，竞争对手谷歌在AI领域的动作陷入争议。谷歌上个月暂停了在旗舰产品Gemini聊天机器人生成人物图像的功能，原因是该工具处理种族和民族内容的做法在网上引起反噬。

Jones承认，其他有AI产品的公司也有自己的问题，并称赞Alphabet首席执行官桑达·皮采(Sundar Pichai)在给员工的内部通知中直接提出了Gemini的问题。

微软已向OpenAI投资数以十亿美元计的资金。Jones说，他在去年12月发现了OpenAI的DALL-E 3模型的一个安全漏洞，他借助该漏洞绕过了一些防止生成有害图像的安全协议。

在发现DALL-E 3存在其他系统性问题后，他于12月在领英上给OpenAI董事会另外写了一封信，敦促他们在这些问题得到解决之前暂停提供该软件。

Jones说，他的经理让他删除12月份的信。OpenAI周三没有立即回应置评请求。

“在过去的三个月里，我曾多次敦促微软停止将Copilot Designer提供给公众使用，直到更好的保障措施到位，”他在写给FTC主席Lina Khan的信中说。他敦促FTC与微软和其他公司合作，提升AI的安全性，并加大AI风险公开披露的透明度。