ChatGPT创始人首次接受美国国会听证 我们要对AI进行怎样的监管

我们的艺术家们曾无数次地设想过，当机器人可以自己思考，自己生成代码，甚至统治地球时会是什么样。但让所有人始料未及的是，这一天的到来，竟然是猝不及防的。

身穿深蓝色西服，头发有点微乱，眼神里透出一股技术男特有的单纯和执着，昨天晚上ChatGPT之父、OpenAI创始人兼CEO山姆·奥特曼在美国国会参加了自去年年底OpenAI的聊天机器人ChatGPT席卷全球以来的首次听证会。

OpenAI创始人兼CEO山姆·奥特曼

而同一时间，银柿财经也邀请了浙江大学人工智能研究所所长、求是特聘教授吴飞跟我们一起聊了聊，究竟要对AI进行怎样的管控。

山姆·奥特曼：人工智能是一种工具，而不是生物

聊天机器人工具ChatGPT成功开发后，再次引发了一场全球关于人工智能的军备竞赛。而这也引发了立法者对该技术带来的风险的担忧。

为说明技术带来的潜在风险，参议院隐私和技术小组主席理查德?布卢门撒尔在周二的听证会开始时，播放了一段虚拟录音。这段录音来自ChatGPT撰写的评论，但声音却是Blumenthal的真实声音。布卢门撒尔表示：这些非常逼真的虚假信息，将会任意传播，这将是非常恐怖的。

OpenAI首席执行官山姆?奥特曼在周二的讲话中表示，人工智能可能会被用来操纵选民和可能产生虚假信息，这是我最担心的领域之一，尤其因为明年美国将面临选举。

奥特曼周二表示，美国政府应为开发人工智能系统的公司建立许可证制度，这种许可和测试相结合的要求可以应用于人工智能模型的开发和发布。

技术专家认为，尽管建立许可制度有助于集中监管AI，并防止其滥用，但如果AI发展得太快，这一制度可能会排挤较小的参与者或者失去相关性。

据悉，OpenAI的一名员工最近提议成立一个美国AI许可机构，名字叫人工智能安全和基础设施安全办公室。奥特曼并未在他的证词中对OASIS发表评论，不过他提议建立一个足够灵活的治理机制，以适应新的技术发展。

IBM副总裁兼首席隐私和信任官克里斯蒂娜?蒙哥马利警告不要创造一个快速行动，打破现状的新时代，因为这是脸书等硅谷巨头们长期以来的口头禅。蒙哥马利告诉立法者：人工智能时代不可能是另一个‘快速行动、打破现状’的时代。她说，但我们也不必对创新踩刹车。

奥特曼和蒙哥马利也表示，尽管人工智能可能会消除一些工作岗位，但会创造新的工作岗位。奥特曼告诉布卢门撒尔：总体上，我对未来充满乐观。

奥特曼发表上述言论的前一天，他与60多名众议院议员共进晚餐。据与会人士称，奥特曼展示了ChatGPT的各种用途，非常有趣，他形容议员们被这场活动吸引住了。该人士补充道，大多数与会者普遍承认，对人工智能的监管是必要的。奥特曼在晚宴上强调，人工智能是一种工具，而不是生物，人工智能可以帮助完成任务，而不是工作。

在今年的采访中，奥特曼表示，自己很注意人工智能带来的风险，甚至对这项技术有点害怕，他和他的公司承诺以负责任的态度向前迈进。

埃隆·马斯克与数十位技术领袖、教授和研究人员曾一起签署了一封信，呼吁像OpenAI这样的人工智能实验室停止训练最强大的人工智能系统至少六个月，理由是对社会和人类的巨大风险。奥特曼表示，他同意这封信的部分内容，但我认为这封信不是解决问题的最佳方式。

吴飞：对人工智能必须要监管，但又不能五花大绑

关于ChatGPT的未来，加强监管一定是趋势。吴飞教授在与银柿财经的对话中也表示，我们一定是要监管的，要监管它不能说谎话。

为了更好地理解ChatGPT等聊天机器人，所带来的挑战时，吴飞教授首先解释ChatGPT了究竟如何生成它的自然语言的。

它是一个语言合成模型，通过大数据，能从一个词自然关联到另外一个词，有一点像单词接龙。它更多的是一个存在的互联网信息的合成。所以它的语言生成的逻辑就是，存在即合理。

但现实社会中，大量的信息并不是存在即合理的。吴飞教授说，最怕的就是你今后可能生活在一个充斥错误信息的网络中。

互联网上充斥大量错误的数据和信息，但如果ChatGPT读了错误的信息后，然后输出我们，我们信以为真，然后把错误的信息再次发布到网上，然后ChatGPT根据这些信息再次输出，这样就会形成一种信息错误链，让你一直生活在各种谣言当中。

怎么监管呢？

近日，欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过关于《AI法案》的谈判授权草案，其中包含了有关面部识别、生物识别监控和其他AI应用使用的新规则，并提出了严格监管ChatGPT等AI工具的新思路。欧洲通过的这一法案草案，在吴飞教授看来，可能过于严格，会损害到新生物的产生，也有可能会让欧洲落后于新一轮的科技变革中。

吴飞教授说起另一个案例：1865年英国颁布了一个《道路机车法》，法律规定，机动车需配备一名红旗手，换句话说，就是在其步行于车辆前方60码处的地方，手持一面醒目的红旗以提前警示前方行人和马车。这项法律的颁布的直接原因，是马车夫等对汽车的抗议，但这导致了汽车并不如马车便利，这也直接导致英国错失汽车大国的机会。

AI监管比较像一把双刃剑，我们既要鼓励新科技产生，但又要防范和监督它。但绝对不能像欧洲这样对它五花大绑，完全没有生长的空间。

吴飞教授建议要从技术、立法和道德上，三个层面对人工智能进行监管。我们从技术层面做一些制约，同时也要积极立法，要对违法的平台，开发团队或者开发者予以相应处罚。同时也是要在人伦道德上，对AI进行监管，比如我们不能把AI用于武器，更不能把准确度只有60%的AI用于武器系统等等。

今年4月国家网信办已经就《生成式人工智能服务管理办法》下发公开征求意见的通知。吴飞教授看来，这一做法说明，中国政府已对此很重视，也在快速行动了，是高瞻远瞩的，有利于人工智能在国内健康发展和推进的。