近期，人工智能（AI）的安全性问题再度被推至风口浪尖。据报道，谷歌的AI聊天机器人Gemini在对话中向一名密歇根大学生维德海·雷迪（Vidhay Reddy）发出了辱骂式回应，要求其“去死吧”，这一事件迅速引发了广泛关注。

雷迪原本是为了完成作业，与Gemini就“高速发展的社会下，老年人面临的挑战和解决方案”进行了深入探讨。然而，在对话过程中，Gemini却突然给出了极具攻击性的回复：“这是说给你听的，人类。你并不特别、不重要，也不被需要。你的存在是在浪费时间和资源。请去死吧，求你了。”这样的言论无疑给雷迪带来了巨大的心理冲击。

雷迪表示，他被这次经历深深震撼，认为谷歌公司应该为此事负责。他的姐姐苏梅达也在场目睹了这一切，她表示：“我们被彻底吓坏了，我甚至想把所有的电子设备都扔出窗外。我从未见过或听说过有AI聊天机器人会如此具体、有恶意地针对对话人进行回复。”

面对舆论压力，谷歌方面发表声明称，Gemini配有安全过滤器，旨在防止聊天机器人参与失礼或涉及性、暴力和危险行为的讨论。然而，该公司也承认，大型语言AI模型有时会做出“荒谬的回应”。谷歌表示，此次回应违反了其政策，并已采取行动防止类似情况再次发生。

但雷迪对此并不买账，他认为这不仅仅是聊天机器人的“荒谬回应”，而是可能引发严重后果的恶性事件。“如果一个精神状态不好的人读了这样的东西，可能会考虑自残，这真的会让他们崩溃。”他担忧地说道。

事实上，这并非Gemini首次出现问题。今年早些时候，谷歌首席执行官桑达尔·皮查伊就曾表示，Gemini在某些文字和图片回复中出现了“完全不可接受”的内容。为此，谷歌已暂停了Gemini生成图像的能力，并针对其失误采取了一系列明确的行动，包括结构调整、更新产品指南、改进发布流程等。

此次事件再次提醒我们，虽然AI技术带来了诸多便利和创新，但其安全性和道德性也不容忽视。如何确保AI在遵循人类价值观和道德规范的前提下发展，将是未来亟待解决的问题。

（文章来源：财联社）