重视聊天机器人背后的语言知识与伦理

2022-12-14

领益智造北京超级工厂下线首批人形机器,全球化具身智能交付网逐步落地

科技赋能银发行走自由:中国兵器杭州智元研究院发布“远山智行”品牌,“国之重器”新一代智能助行外骨骼“踏山”全面升级

我国首台自主研发的海缆探测机器人正式投入应用

会流泪、懂情绪、更懂陪伴!演犀科技发布全球首款智能流泪机器人,开启人机情感交互新纪元

可“追捕”并搬运细菌的纳米机器人问世,尺寸仅为头发直径的1/50

智驱未来 关节先锋 首届机器人一体化关节测评发布会暨创新发展会议在北京成功举办

「Hi, I’m KAI」——超维动力发布全球最高自由度人形机器人

目标到2030年实现人类与机器人协同工作,富士通与卡内基梅隆大学联合开发物理AI操作系统

2026人工智能机器人哪家技术领先 :以技术深耕赋能多元场景

能穿针不代表要做家务,国奥G-tools工业具身机器人要替代谁?

众擎机器人联合多伦科技,全新发布“智慧交管机器人解决方案”

四冠加冕!伽利略称霸2026机器人勇士挑战赛,足式机器人实力领跑行业

新时达荣获OFweek行业大奖,定义协作机器人新范式

从工业机器人到具身智能 中国企业在全球制造变革中加速突围

深谋科技即将发布业界首个智能带电作业人形机器人“伏安”,交付国网电力

重视聊天机器人背后的语言知识与伦理

最后更新:2022-12-30 浏览:1117次

重视聊天机器人背后的语言知识与伦理


       最近一段时间,人工智能和互联网领域最火的话题莫过于智能对话系统“生成式预训练模型聊天机器人”(ChatGPT,暂译,以下简称“聊天系统”)。该系统不仅支持包括中文在内的多语聊天,而且还能够扮演角色,甚至执行编程。对于或诙谐或严肃的提问,它的表现令人感到惊艳:相当多的知识内容正确,语言表达更是流畅,并且还支持多轮连续聊天。因此,不少人感慨“自己已经沉迷于和它对话”“让它替我编程、写稿,效率提升”,甚至有人用它生成了某行业的咨询报告,通过对话引导它生成的书也在亚马逊线上出版。但在聊天系统流畅交谈的表面下,其对人类知识的掌握仍不可靠。随着测试的增加,也有越来越多的人感慨它“常常一本正经地胡说八道”。错误信息以纯熟的语言表达出来,因而更加隐蔽。但无论如何,在不少人认定本轮人工智能泡沫开始破碎的时间点,它的诞生无疑是给人们打了一剂“强心针”。



       人工智能所涉任务众多,语言智能却越来越成为方法、技术、应用方面的领先领域。正如聊天系统对自己的介绍:“我是一个语言模型。”该系统得以驾驭极其广泛的知识内容,来自对互联网文本内容的获取和“理解”,进而形成了自己的“知识体系”。其中所涉技术十分复杂,但它的成功无疑以十分直观的方式向我们展示了语言之于人类知识乃至人类思维的重要性。人工智能的核心在于知识的获取、表示和运用,语言无疑是其中关键。教科书上“语言是人类最重要的思维工具”“人类九成的知识由语言承载”的论断在人工智能系统的应用上得到了淋漓尽致的展现。知识和思维的承载物是语言,因而也赋予语言无可替代的资源属性。智能技术的发展和落地,频繁向传统语言学的教育和研究发出信号:构建语言资源、挖掘语言中的知识、探索语言知识的形式表达,是最切中数字社会命脉的发展方向。
 
  当然,正如过去几十年中任何一项智能技术的成熟落地一样,聊天系统也引起了一波“失业潮”的舆论。这样的担心实不必要。过去几十年里,智能技术成熟引起的“失业潮”几乎从未出现,短期内或许会搅动局部行业,但长期来看却相反。技术应用本身也催生了大量新岗位,例如聊天系统的研制本身依赖于海量的人工数据标注和反馈,数据标注师和测试员岗位需求巨大。
 
  更深层次来看,与聊天系统强大的语言生成能力不匹配的是它对知识的真正掌握程度。大量模棱两可乃至错误的信息混杂在流畅的对话中,反而令其更加难以被发现。诚如清华大学马少平教授所说:“人工智能最大的问题是不知道自己不知道什么,也不知道自己真知道什么,什么问题都能回答,结果如何就不得而知了。”在一般性知识极易获取,复杂知识参差不齐的背景下,人类专家的专业判断力和经过思考加工的准确回答,更显弥足珍贵。人工智能诸多技术“黑箱”带来的不确定性,终究还需要人类专业、全局判断来化解。从这个层面上讲,“自知”的人类永远不可或缺。
 
  也恰恰因为技术“黑箱”的存在,人类才需要不断从自身、从技术去寻求可靠、可信的技术和技术使用方式。可信的人工智能、可信计算成为融合技术、伦理的重要领域,并受到越来越多的重视。更宏观的人工智能伦理和治理工作也早已被纳入科技管理的视野。挽救“失足系统”,矫正“智能体歧视”也许不再是比喻,而将成为使用者、从业者和治理者都必须面对的问题。