AI导读：

OpenAI首席执行官Sam Altman透露，公司正致力于构建通用人工智能（AGI），并已着手向超级智能的新目标迈进。他强调，尽管存在挑战，但对未来充满信心，并预计超级智能可能在未来十年内出现。然而，安全运行超级智能系统是目前面临的最大挑战。

OpenAI首席执行官Sam Altman在1月6日的最新个人博客中透露，OpenAI正雄心勃勃地致力于构建通用人工智能（AGI），并已着手向“超级智能（superintelligence）”的新目标迈进。

Altman强调，尽管目前的产品备受青睐，但OpenAI的真正愿景是创造一个更加辉煌的未来。他坦言，当前的人工智能技术尚存在显著的局限性，包括显而易见的错误和高昂的训练成本。然而，Altman充满信心地表示，这些挑战将在未来几年内得到解决。

Altman指出，OpenAI对未来充满信心，并强调在推动广泛利益和赋权的同时，必须谨慎行事。他预计，到2025年，首批AI代理将加入劳动力大军，实质性改变公司产出。

关于AGI，OpenAI有自己的定义，即指在经济价值最高的工作上表现优于人类的高度自主系统。而与微软之间的紧密合作则赋予AGI另一种定义，即能产生至少1000亿美元利润的人工智能系统。根据双方协议，一旦OpenAI实现这一目标，微软将失去对技术的获取权。

在博客中，Altman虽未明确说明采用的是哪种定义，但从其表述来看，前者似乎更有可能。他坚信，通过迭代的方式将强大的工具交到人们手中，将带来广泛且伟大的成果。

在谈及超级智能时，Altman表示，OpenAI正将目标转向真正意义上的超级智能，并认为超级智能工具将极大加速科学发现和创新，远超人类能力，从而大幅增加财富和繁荣。他提到，OpenAI曾多次探讨如何成功过渡到拥有超级智能的世界，并预计超级智能可能在未来十年内出现。

然而，Altman也承认，安全运行超级智能系统是目前面临的最大挑战。人类似乎无法操控或控制一个潜在的超智能人工智能系统，以防止其失控。即使是OpenAI自身，也未能给出确切的解决方案。公司多次指出，人类无法可靠地监督比我们聪明得多的人工智能系统，因此目前的校准技术无法扩展到超级智能。

（文章来源：财联社）