当一位计算机学家与一位哲学家携手，会激发出怎样的思想火花？日前，第二届中国科技伦理高峰论坛在复旦大学召开，以“跨越边界的科技伦理”为主题，探讨科技伦理治理的边界跨越之道。解放日报·上观新闻记者有幸专访了中国科学院院士、北京大学教授梅宏与中国科协-复旦大学科技伦理与人类未来研究院院长王国豫，他们共同致力于《大数据的伦理问题与社会治理》研究。

【雷声大雨点小？自动驾驶的伦理困境】

近期，自动驾驶汽车频频引发关注。百度研发的“萝卜快跑”在武汉遭遇轻微碰撞事故，谷歌自动驾驶汽车也曾在施工区误入反向车道。这些事件凸显了自动驾驶汽车在事故责任认定上的复杂性，其决策逻辑的“黑箱性”增加了责任划分的难度。同时，自动驾驶汽车在面临突发状况时，如何在保护乘客与行人之间做出选择，也引发了深刻的道德讨论。

此外，人工智能的“谎言”同样令人担忧。去年，ChatGPT被用于撰写法律文件，却引用了不存在的判决案例，导致律师被罚款。梅宏教授指出，我们应对人工智能的应用保持审慎态度，将其视为辅助工具而非决策依据。

梅宏认为，人工智能热潮中泡沫成分过多，需要冷静期来沉淀。他强调，人工智能应用需探索行业真需求、提升可信性、加强数据积累。同时，他提出数字技术领域应存在研究禁区，涉及人的认知能力调控、违背自由意志的研究应被禁止。

【大模型的未来与挑战】

当前，大模型技术取得了前所未有的突破，但梅宏认为大模型仍局限于“概率统计”框架内，其“语义”正确性高度依赖于数据质量。他担忧大模型训练以过度资源消耗为代价，难以永续发展。同时，大模型的“不可解释性”也违背了人类发现知识、发明技术的基本逻辑。

梅宏大胆预测，基础大语言模型应开源，成为全球共同财富，以避免无谓的资源浪费。他提到互联网的发展历程，认为只有开放共享，才能推动科技的繁荣发展。

【科技伦理的边界与中介】

科技伦理问题早已出现，并在人工智能时代引发更多关注。王国豫教授指出，人工智能作为“两用型”技术，在造福人类的同时，也可能带来隐私侵犯、虚假信息、责任鸿沟等负面影响。她强调，数据采集与大脑干预的边界需要明确界定。

王国豫认为，边界既是壁垒也是中介，学科边界的突破往往推动科技革命。她提到，跨学科合作是解决科技创新中伦理难题的关键。本届中国科技伦理高峰论坛正是由多家国家一级学会共同主办，旨在寻求大家都可以接受的边界和规范。

【跨越边界，推动科技向善】

梅宏与王国豫在采访中多次提到“寻求共识”，他们跨越学科边界，共同推动科技伦理研究。梅宏推动成立了中国计算机学会职业伦理与学术道德委员会，并发布了相关守则。王国豫则牵头撰写了《人工智能医学影像伦理手册》，并在国际舞台上得到了高度认可。

两位专家表示，推动科技向善、跨越边界、消弭壁垒是当前科技伦理研究的重要任务。

（文章来源：上观新闻）