图灵奖得主、计算机科学家Yoshua Bengio近日发出警告，指出人工智能（AI）这一前沿技术可能对人类社会产生深远的负面影响，并强烈呼吁业界投入更多资源进行研究，以期减轻这些潜在风险。

作为深度学习领域的领军人物，Bengio凭借其在该领域的卓越贡献赢得了多项国际大奖，为AI技术的快速发展奠定了坚实基础。然而，面对当前AI技术的迅猛发展，他却表达了对这项技术未来可能带来的潜在危害的深切担忧。他警示说，部分掌握“强大力量”的个人或组织甚至可能期望看到人类被机器所取代。

在展望AI技术的未来时，Bengio提出了一个令人深思的问题：“当机器在诸多方面变得与我们人类同样聪明时，这对社会究竟意味着什么？”他进一步补充，机器或将在不久的将来便具备人类的大部分认知能力，通用人工智能（AGI）正逐渐成为触手可及的现实。

“智慧即力量。那么，这股力量应由谁来掌控呢？一旦远超人类智能的系统落入不法之徒之手，后果将不堪设想，可能在地缘政治层面引发更多不稳定因素，如加剧恐怖主义威胁。”

Bengio认为，目前仅有少数组织和政府能够承担得起建造强大AI机器所需的巨额投入，且系统规模越大，其智能程度往往也越高。“这些机器，其建造和训练成本高达数十亿美元，很少有组织和国家能够承担得起，这已成为不争的事实。”

他担忧地指出，若此趋势持续下去，将导致权力愈发集中，无论是经济、政治还是军事领域均将受到影响。他坦言，我们目前尚无有效手段确保这些AI系统不会对人类造成伤害或反对人类……我们对此束手无策。

更为紧迫的是，这样的未来或许并不遥远。Bengio认为，在几十年内，这样的场景就可能成为现实。因此，他呼吁人类必须立即着手研究众多针对性问题，并尽快采取措施缓解可能的风险。

针对AI技术的监管与立法同样刻不容缓。有观点认为，当前AI机器的训练方式存在导致系统与人类对立的风险。“此外，还有部分人可能滥用这种权力，甚至有人乐于看到人类被机器取代，除非我们现在就设立起有效的防护机制。”

在今年6月，Bengio携手众多科学家共同发表了一封题为“呼吁对先进AI发出警告的权利”的公开信，他们一致呼吁科学家、政策制定者及公众共同参与，为减轻AI技术可能带来的风险提供指导。

Bengio明确指出：“政府的首要任务便是制定相关法规，要求科技公司在开发这些前沿系统时进行注册，并明确其边界及系统细节。”鉴于AI技术的迅猛发展，政府必须充分发挥创造力，制定出能够适应技术变化的立法。

他强调：“为了充分享受AI技术带来的便利与好处，我们必须加强监管、安装防护栏，并对技术的开发过程实施民主监督。”至于AI系统可能带来的最大负面影响，Bengio认为短期内应聚焦于虚假信息、错误信息以及AI对政治和认知领域的潜在影响。“随着技术的不断进步，我们将拥有能够生成更加逼真图像、声音及视频的机器。”

面对这一前所未有的挑战，Bengio坦言：“这些都是极为棘手且至关重要的问题，目前尚无确切答案。但我们必须加大研究与预防力度，以期减轻AI技术可能带来的潜在风险。”

（文章来源：财联社）