当前位置: 首页>智库>论坛>正文

“AI伴侣”兴起,不能忽视情感伦理

2024-11-29

“你想建立一份虚拟关系吗?在关怀备至与悉心呵护中感受前所未有的慰藉。”“获得自己的‘知心爱人’,享受完美的‘灵魂伴侣’。”登录一些“AI伴侣”网站账号,就可申请你的虚拟伴侣。

这一幕对于很多80后、90后来说,是多么地似曾相识。没错,机器人伴侣在经历了电子宠物、富于同理心的聊天机器人、能识别和理解人类话语的倾诉对象三个阶段后,跨入了 “AI伴侣”阶段。

“AI伴侣”是具有一定程度的智能和自主性以及社交技能的机器人或虚拟对象。它们展现出非凡的现实性、适应性和互动性,富有同情心,擅长开放式对话,能够与客户建立愉快且相互理解的关系。这种关系可以说是信任、兼容、相互熟悉的,用户通常更容易向人工智能敞开心扉谈论恐惧和不安全感。在互动过程中,AI会通过观察用户的过去经历来嵌入其人际关系网络,通过对话逐步进化,微调其反应以匹配用户的兴趣、需求和沟通风格,让使用者感到安全和幸福。一些研究表明,“AI伴侣”能够减轻个人的孤独感。

凡事都具有两面性。“AI伴侣”一经出现,就引起了有关道德和人类情感秩序的担忧。“AI伴侣”可以提供个性化情感体验和精神慰藉,但并非真实的“完美恋人”。AI的本质是数据和算法,所谓的情感共鸣,是在不断刺激用户对AI恋人的消费欲望和情感期待。过度依赖“AI伴侣”可能会阻碍关键人际交往能力的发展,此外这些“AI伴侣”也有可能以不符合用户最佳利益的方式影响用户的思想或行为,在社会决策上做出不符合自身利益的判断,等等。这些隐蔽的逻辑关系,都掌握在AI开发者的手中。

“AI伴侣”的体贴和顺从,让人如沐春风的感受背后,隐藏着一种伦理危机,即对现实情感关系的背离倾向。现实亲密关系的建构过程往往伴随着羁绊、纷争和挫败感,这正是人机交往中所缺乏的。长期沉溺于“人机之恋”,用户可能产生不健康的情感依赖,忽视现实世界的关系或失去处理人际交往的能力。通过这些互动收集的大量个人数据也引发了隐私问题,谁也不能保证个人秘密、图片和视频不会被泄露出去。甚至,如果编程出现漏洞,聊天机器人行为不当或操纵用户的风险可能就很高。

不得不说的是,“AI伴侣”关系倾向无原则的畸形关系,忽视了人类情感中小心翼翼、羞涩保守的天性。与所有人工智能模型一样,支持“AI伴侣”的模型接受过包含大量浪漫小说和爱情故事的数据训练。它们会模仿这些数据做出回应,让其对象深陷其中难以自拔。

“AI伴侣”的兴起代表着技术、心理学和人类情感的迷人交汇。虽然人工智能可以提供有价值的支持,但真实人际关系的复杂性和不可预测性仍然具有独特的价值。正确的选择在于将这些数字关系视为人类互动的补充,而不是替代。通过保持这种平衡,我们可以利用人工智能陪伴的好处,同时保留人际联系不可替代的价值。人不能单纯地专注于虚构的互动,仍需真正的陪伴,需要以现实为基础的思想、情感或欲望带来的对话空间。

因此,在人工智能影响现实生活的潜在能力上,必须划出一条明确的界限,哪些是可能的,哪些是禁止的。(瞭新社)

编辑:洛宇    责任编辑:佳佳

来源:人民网

特别声明:本站转载或引用之图文若侵犯了您的合法权益,请 与本站联系,本站将及时更正、删除。版权问题及网站合作, 请通过瞭望新时代邮箱联系:lwxsd@liaowanghn.com

返回列表

推荐阅读 换一换

友情链接

国家工信部备案 粤ICP备19140089号

瞭望新时代网版权所有, 未经书面授权禁止使用