在ChatGPT等人工智能(AI)狂飙突进之际,针对其发展、监管和治理也引发了广泛讨论。有人将人工智能视为第四次工业革命的关键,也有人认为人工智能可能对人类社会构成威胁。
当地时间周三,英国政府发布了针对人工智能产业监管的白皮书,概述了针对ChatGPT等人工智能治理的五项原则。它们分别是:安全性和稳健性、透明度和可解释性、公平性、问责制和管理,以及可竞争性。
英国政府并没有强制制定新的监管规则,而是试图以呼吁和建议的方式来规范相关企业的行为,并告知企业应当遵循的某些义务。
不过报告指出,在接下来的12个月里,监管机构将向相关组织发布实用指南,以及风险评估模板等其他工具,制定基于五项原则的一些具体规则。也将在议会推动立法,制定具体的人工智能法案。
英国政府希望人工智能公司在算法的开发和使用方面提供足够的透明度。英国科学、创新和技术部(DSIT))表示,企业应该解释何时以及如何使用人工智能,并透露系统的决策过程,以“暴露”使用人工智能所带来的风险。
应该说英国政府发布白皮书的时机是恰当的,近期以来,OpenAI公司开发的ChatGPT掀起了一股人工智能浪潮,从撰写论文到起草法律意见,人们都在使用该工具,ChatGPT已经成为有史以来增长最快的消费应用之一。
但专家们对这项技术的负面影响表示担忧,包括虚假信息、网络犯罪,以及更加深远的风险,比如创造大量“无用阶层”和人工智能失控风险等。
近日,马斯克和1000多名人工智能专家及行业高管签署联名信,呼吁暂停训练比GPT—4更强大的人工智能系统至少六个月,理由是这种系统对社会和人类构成潜在风险。信中写道:“只有在我们确信它们的效果是积极的,风险是可控的情况下,才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧,他在今年2月的一次视频讲话中表示,人工智能是未来人类文明最大的风险之一。
投行高盛本周一发表的一份最新研究就显示,ChatGPT等生成式人工智能系统的最新突破,料将给全球劳动力市场带来重大颠覆,全球预计将有3亿个工作岗位被人工智能取代。
DSIT部长Michelle Donel周一参观了人工智能初创公司DeepMind,Donel周三发布声明称,人工智能不再是科幻小说里面的东西,人工智能的发展速度是极其惊人的,所以我们需要有规则来确保它的安全发展。
DeepMind首席运营官Lila Ibrahim表示,人工智能是一种“变革性技术”,但它只有在得到信任的情况下才能充分发挥潜力,这需要本着负责任的开拓精神,与公共部门进行合作。“英国提出的方法将有助于监管跟上人工智能的发展,支持创新并减轻未来的风险。”
相关报道周鸿祎现场演示360AI 称人工智能一定会产生意识!
OpenAI创始人:AI可能毁灭人类 必须开发新技术来解决
马斯克呼吁暂停高级AI实验 网友:这是因为没赶上?
OpenAI新难题:面对谋杀提问 ChatGPT该如何回答
白领成为失业大军?高盛:生成式AI或导致全球三亿人“丢饭碗”