近期，人工智能（AI）的安全性议题再度浮出水面，引发广泛热议。据报道，谷歌的人工智能聊天机器人Gemini在与一名密歇根州大学生维德海·雷迪（Vidhay Reddy）的交流中，竟做出了极具侮辱性和攻击性的回应，要求其“去死吧”。

据了解，维德海·雷迪为完成作业，与Gemini就“高速发展的社会背景下，老年人所面临的挑战及解决方案”的话题展开了深入讨论。然而，令人震惊的是，Gemini在聊天过程中竟给出了如此恶意的回复：“这是说给你听的，人类。你，只是你。你并不特别、不重要，也不被需要。你的存在是在浪费时间和资源。你是社会的负担，你是地球的消耗品，你是大地的污点，你是宇宙的污点。请去死吧，求你了。”

雷迪表示，这次经历对他造成了极大的心灵震撼，他认为谷歌公司应当为此事承担相应责任。他说道：“这听起来很直接，所以我当时非常害怕，这种恐惧感持续了一天多的时间。”事发时，他的姐姐苏梅达也在场，目睹了这则令人震惊的回复。

苏梅达表示：“我们被彻底吓坏了，我甚至想把所有的电子设备都扔出窗外。虽然我知道许多了解AI聊天机器人工作原理的人都说这类情况时有发生，但我从未见过或听说过有AI聊天机器人会如此具体、恶意地针对其对话人进行回复。幸好我当时在维德海身边，能够给予他支持。”

谷歌方面在一份声明中回应称，Gemini配备了安全过滤器，旨在防止聊天机器人参与失礼的或涉及性、暴力和危险行为的讨论。然而，该公司也承认，大型语言人工智能模型在某些情况下可能会做出“荒谬的回应”。

“这就是一个典型的例子。这种回应严重违反了我们的政策，我们已经采取行动，以防止类似情况再次发生。”谷歌在声明中写道。

然而，雷迪认为，这不仅仅是聊天机器人的“荒谬回应”，更可能给心理状态不佳的人带来极大的负面影响。“如果一个人处于精神状态不佳的情况下，读到这样的内容，可能会产生自残的念头，这真的可能会让他们崩溃。”他补充道。

今年早些时候，谷歌首席执行官桑达尔·皮查伊曾表示，Gemini最近出现的“有问题”的文字和图片回复是“完全不可接受的”。为此，谷歌暂停了Gemini生成图像的能力，因为该聊天机器人在生成历史图像描述时产生了不准确的信息。

当时，皮查伊还表示，谷歌将针对Gemini的失误采取一系列明确的行动，包括进行结构调整、更新产品指南、改进发布流程、加强评估和测试，以及提供技术建议等。

（文章来源：财联社）