谷歌研究员被群嘲：LaMDA有人格是胡说八道！谷歌(2) - 语言研究杂志社投稿

一、稿件要求： 1、稿件内容应该是与某一计算机类具体产品紧密相关的新闻评论、购买体验、性能详析等文章。要求稿件论点中立，论述详实，能够对读者的购买起到指导作用。文章体裁不限，字数不限。 2、稿件建议采用纯文本格式(*.txt)。如果是文本文件，请注明插图位置。插图应清晰可辨，可保存为*.jpg、*.gif格式。如使用word等编辑的文本，建议不要将图片直接嵌在word文件中，而将插图另存，并注明插图位置。 3、如果用电子邮件投稿，最好压缩后发送。 4、请使用中文的标点符号。例如句号为。而不是.。 5、来稿请注明作者署名(真实姓名、笔名)、详细地址、邮编、联系电话、E-mail地址等，以便联系。 6、我们保留对稿件的增删权。 7、我们对有一稿多投、剽窃或抄袭行为者，将保留追究由此引起的法律、经济责任的权利。二、投稿方式： 1、请使用电子邮件方式投递稿件。 2、编译的稿件，请注明出处并附带原文。 3、请按稿件内容投递到相关编辑信箱三、稿件著作权： 1、投稿人保证其向我方所投之作品是其本人或与他人合作创作之成果，或对所投作品拥有合法的著作权，无第三人对其作品提出可成立之权利主张。 2、投稿人保证向我方所投之稿件，尚未在任何媒体上发表。 3、投稿人保证其作品不含有违反宪法、法律及损害社会公共利益之内容。 4、投稿人向我方所投之作品不得同时向第三方投送，即不允许一稿多投。若投稿人有违反该款约定的行为，则我方有权不向投稿人支付报酬。但我方在收到投稿人所投作品10日内未作出采用通知的除外。 5、投稿人授予我方享有作品专有使用权的方式包括但不限于：通过网络向公众传播、复制、摘编、表演、播放、展览、发行、摄制电影、电视、录像制品、录制录音制品、制作数字化制品、改编、翻译、注释、编辑，以及出版、许可其他媒体、网站及单位转载、摘编、播放、录制、翻译、注释、编辑、改编、摄制。 6、投稿人委托我方声明，未经我方许可，任何网站、媒体、组织不得转载、摘编其作品。

谷歌研究员被群嘲：LaMDA有人格是胡说八道！谷歌(2)

作者:

关键词:

摘要：

“你开发了一个算法，却不用它实际能做的事情去命名，而是用你想要解决的问题——这样总是会发生误会。”

原版：

“孩子们（如果你们将来还能活下来的话），请记住，这就是一切的开始。”

类似的故事我们见过太多了，特别是前几年一个非常经典的电影《她》(Her) 里面，主角对于虚拟助手的身份界限越来越不清晰，把“她”当成了人。

但他不是一个人：就连公司 VP Blaise Agüera y Arcas 都在发表文章，表示 AI 在获得意识方面实现了巨大进步，“已经进入了一个崭新时代。”

那位被指为”走火入魔“的研究员 Blake Lemoine 在自己发表的一篇文章中，批评谷歌对于了解自己开发成果的真实情况“没有兴趣”，然而自己在长达6个月的对话事件当中，看到 LaMDA 对于自己想要的东西，特别是“自己作为人的权利”，表达的越来越清晰，使得自己相信 LaMDA 真的是人。

“‘我看到的东西像人，因为我按照人的样子开发的它，所以它是一个人'——简直是倒骑驴的逻辑。”

“这一天终于来了？”

比如在拼字游戏比赛当中，经常能看到母语非英语的玩家拼出英文单词，却根本不知道单词是什么意思——LaMDA 也是如此，它只是会说话，却根本不知道自己说的话是什么意思。

正确的叫法应该是“词序建模”(world sequence modelling)。

Marcus 大佬直接把这种对于 AI 获得人格的错觉，形容为一种新型的“空想性错觉”，也即把天空中的云看成龙和小狗，把月球上的陨石坑看成人脸和月兔。

谷歌前不久搞出来了一个超大规模语言模型 LaMDA。公司里有个研究员 Blake Lemoine 跟它聊了很久，对其能力感到十分惊讶，于是下了个结论：LaMDA 可能已经具备人格了。（原话用的词是 sentient，在不同的语境下可以被翻译为感情、智慧、知觉等。）

华盛顿大学的计算机语言系主任 Emily Bender 教授，干脆做了一个“AI 人格意识争论”的宾果卡：

（These systems imitate the types of exchanges found in millions of sentences, and can riff on any fantastical topic — if you ask what it's like to be an ice cream dinosaur, they can generate text about melting and roaring and so on.）

什么？AI 具备人格了？？

AI 学术界新星之一，Mozilla 基金会高级研究员 Abeba Birhane 也表示：“带着最小限度的批判思维，我们终于登上了AI炒作的巅峰。”

文章来源：《语言研究》网址: http://www.yyyjzzs.cn/zonghexinwen/2022/0614/1440.html