![工程师就微软AI工具生成暴力和性图像发出警告](https://www.xaiat.com/wp-content/themes/justnews/themer/assets/images/lazy.png)
图片来源:TADA IMAGES/SHUTTERSTOCK
微软(Microsoft)的一名AI工程师表示,该公司的AI图像工具生成的暴力和性图像可能会对社会造成危害。
在周三写给联邦贸易委员会(FTC)和微软董事会的信中,首席软件工程经理Shane Jones谈到了他对微软“负责任AI策略”的担忧。
Jones担心,该公司的Copilot Designer工具可能会被用来创建不安全的图像,包括对性化、阴谋论和吸毒的描述。
Jones在给FTC的信中说:“Copilot Designer创建的其他各类有害内容包括:政治偏见、未成年人酗酒和吸毒、滥用企业商标和版权、阴谋论和宗教等等”,他在领英(LinkedIn)上发布了这封信。信中写道:“我曾多次敦促微软停止向公众提供Copilot Designer,直到出台更好的保障措施。”
他说,微软的环境、社会和公共政策委员会应该开展独立调查,帮助微软“以负责任的最高AI标准引领行业”。
Jones在一篇帖子中写道:“我们需要全行业通力合作,并与政府和公民社会紧密合作,就AI的风险和益处开展公众宣传和教育。”
已经在微软工作了六年的Jones说,他从去年12月开始就一直在测试AI图像生成器,发现一些缺陷和安全漏洞可能会让用户生成有害的图像,这些图像可能对消费者具有冒犯性,或者包含不宜内容。
除了信件和领英的帖文外,Jones不予进一步置评。
微软发言人说:“我们致力于按照公司政策解决员工的任何和所有关切,我们感谢该员工努力研究和测试我们的最新技术,以进一步提高其安全性。”
在上个月的一篇博客文章中,微软总裁史密斯(Brad Smith)讨论了该公司致力于让用户安全使用AI的承诺。史密斯说:“来自微软和整个科技领域的这些新工具不断推向市场,在这种情况下,我们必须采取新的措施,确保新技术不会被滥用。”
自2022年末OpenAI的ChatGPT推出后,AI领域出现爆炸式增长。数以十亿美元计的资金涌入该行业,科技巨头和亿万富翁们竞相投入资金,试图得到下一个AI摇钱树。
微软去年推出了Copilot Designer,采用了与OpenAI的ChatGPT相同的技术。该系统结合了OpenAI的DALL-E 3文本到图像生成器,用户在输入一些文字组合或进行描述后会创建图像。
该公司希望通过“Copilot for Microsoft 365”实现其数十年来最大的成功,这是一款AI升级产品,可插入Word、Outlook和Teams等软件。
Jones的信披露之前,竞争对手谷歌在AI领域的动作陷入争议。谷歌上个月暂停了在旗舰产品Gemini聊天机器人生成人物图像的功能,原因是该工具处理种族和民族内容的做法在网上引起反噬。
Jones承认,其他有AI产品的公司也有自己的问题,并称赞Alphabet首席执行官桑达·皮采(Sundar Pichai)在给员工的内部通知中直接提出了Gemini的问题。
微软已向OpenAI投资数以十亿美元计的资金。Jones说,他在去年12月发现了OpenAI的DALL-E 3模型的一个安全漏洞,他借助该漏洞绕过了一些防止生成有害图像的安全协议。
在发现DALL-E 3存在其他系统性问题后,他于12月在领英上给OpenAI董事会另外写了一封信,敦促他们在这些问题得到解决之前暂停提供该软件。
Jones说,他的经理让他删除12月份的信。OpenAI周三没有立即回应置评请求。
“在过去的三个月里,我曾多次敦促微软停止将Copilot Designer提供给公众使用,直到更好的保障措施到位,”他在写给FTC主席Lina Khan的信中说。他敦促FTC与微软和其他公司合作,提升AI的安全性,并加大AI风险公开披露的透明度。
原创文章,作者:Xaiat,如若转载,请注明出处:https://www.xaiat.com/%e5%b7%a5%e7%a8%8b%e5%b8%88%e5%b0%b1%e5%be%ae%e8%bd%afai%e5%b7%a5%e5%85%b7%e7%94%9f%e6%88%90%e6%9a%b4%e5%8a%9b%e5%92%8c%e6%80%a7%e5%9b%be%e5%83%8f%e5%8f%91%e5%87%ba%e8%ad%a6%e5%91%8a/