一是毫无预兆地突然加入到用户们的生活中,二是刚开始的罗伯特并不太“聪明”。
很多用户发现,自己万年没人互动的微博,时不时就会在评论通知上出现一个小红点。当你满心欢喜点进去,发现是评论罗伯特在和你做虚假的互动。
再就是罗伯特所回复的内容。评论罗伯特给予用户的回复并非随机生成,而是根据学习到的语言规则和模型参数,结合上下文信息,进行个性化的回复。
但这种回复充满了随机性,并且受到其上下文理解能力的限制,往往会产生一些不符合期望或误导性的言论。
有时是已读乱回——
(图源:微博@罗伯特受害者联盟)
有时候是深深往用户心上扎一刀——
(图源:微博@罗伯特受害者联盟)
当然,随着学习程度的提高。它也有不少尽职尽责的时候,能够给到一些伤心的用户送上温暖的安慰——
(图源:微博@罗伯特受害者联盟)
这些回复,在用户明知罗伯特是一个机器人的情况下,反而更容易调动起用户们的反馈。对于不太礼貌的罗伯特语录,用户们会大大方方予以回击,对于温暖治愈的罗伯特发言,用户们也不吝给出感谢。
这种反馈不仅仅是在互动语料上的你来我往,也证明了用户情绪能够对于社交机器人产生投射。
唐纳德·霍顿和理查德·沃尔曾在1956年的《大众传播与类社交互动》一文中提出了“类人际互动”的概念,它阐述了观众与电视屏幕“角色”之间的互动属性,提出了大众媒介(主要是电视)具有准社会关系或准社会互动的功能。这个概念可以启发我们以此去观察用户与评论罗伯特所建立起来的关系,在与人格化机器人的互动中,用户们同样会予以社会化的回应,而这种准社会关系其实也是一种人机关系,其中掺杂了一定的情感陪伴。
在快节奏、高压力的现代社会中,社交媒体成为人们情绪宣泄的出口。而微博平台本身是广场式定位,公共属性较强,并不作为一种强关系媒介来承担为用户提供情绪释放反馈的作用。
评论罗伯特的出现正好满足了这一需求,它在一个公域之中为用户私域的建造提供了极大的“精神支持”。在理想化的情况下,它能以一种轻松幽默的方式,让人们在社交媒体上找到了乐趣和放松;也会充当暖宝宝,收留伤心小狗并给到情绪价值。
在这种意义上来说,评论罗伯特有其进步价值和情绪价值。尽管它看起来仍然有些“笨拙”,但是未来可期。可以看到,互联网中不断增长的数据集、日臻完善的算法和人工智能伦理,正在一步步浇灌着它,确保着它的茁壮成长。
三、评论机器人的潜在隐患
评论罗伯特纵然给用户们带来了不少的欢乐,但是对此类社交机器人的广泛应用仍然需要提高警惕。
数据隐私泄露是一个重要的问题。为了提供个性化的回复和评论,评论罗伯特需要收集和处理大量的用户数据。如果这些数据没有得到妥善的保护,就可能导致用户隐私泄露,给不法分子提供可乘之机。因此,确保用户数据的安全性和隐私性至关重要。
此外,机器学习算法仍有可能出现理解偏差,导致评论罗伯特生成的回复与原始帖子语境不符,甚至含有冒犯性、误导性或不适宜的内容。
更进一步,如果训练数据中存在某种偏见(如性别、种族、宗教等),可能会导致评论罗伯特在生成回复时无意中强化或传播这些偏见。不仅误导用户,还可能引发社会争议或歧视问题。
最典型的案例,莫过于早些年微软开发并上传到推特(现重命名为“X”)的Tay。用户只需在推特上@TayandYou就能得到Tay的回复。Tay就会追踪该用户的个人信息,并根据用户的数据不断学习,建构智能体的话语库和人格。有趣的是,不到24小时,她就被网友的数据“污染”了,成为一个集反犹太人、性别歧视、种族歧视于一身的“聊天机器人”。
(图源:澎湃新闻)
在情感层面,用户可能评论罗伯特产生过度的情感依赖,特别是在缺乏现实社交支持的情况下,可能导致人际关系的疏离和社会交往能力的退化,挑战现有的社会关系模式。
相较于其他的社交机器人,评论罗伯特是众人皆知的“机器人”。但能够做到类人回复的很多机器账户,同样会混迹在真人用户当中,对一些公共事件的舆论产生干扰。
当社交机器人大规模生成并传播信息,用户同样容易陷入一种舆论失真的环境中,从而令政治生态和新媒体舆论环境产生剧烈的变动。2016年的美国大选有近19%的相关推文由社 交机器人账号发出、2019年的中美贸易战有13% 的社交机器人参与了Twitter上的相关讨论并发 布了占比将近20%的内容、2022年初仅统计俄乌 冲突爆发前后一周内于Twitter平台中参与“俄乌 局势”涉华议题讨论的社交账号属性就可以发现有22.5%的都为社交机器人。
事实上,在“评论罗伯特”身上,似乎重现着我们对于技术的普遍而又复杂的情感。既希望技术能够扮演行动者,发挥着更深层次的社会功能,提供更多经济和情感价值;另一方面又对技术的渗入而感到惶惶而不可终日,隐私、自由意志、秩序都成为一些显著担忧。
何以解忧?法国哲学家贝尔纳·斯蒂格勒为这些担忧提供了一种出路:“技术是人类的解药,也是人类的毒药。我们要对技术的高速发展心存警惕。我们需要创造一种新的技术文化,去应对技术的时代。”如果用实践的角度看,想要创造一种技术文化,那就必须需要实践先行。因此,不如让子弹多飞一会,让“罗伯特”再在评论区多蹦跶一会吧。
参考文献
1.张洪忠,王競一.社交机器人参与社交网络舆论建构的策略分析——基于机器行为学的研究视角[J].新闻与写作,2023,(02):35-42.返回搜狐,查看更多