AI陪伴成隐忧?美FTC宣布调查聊天机器人对未成年人风险
创始人
2025-09-13 02:32:02
0次

当地时间周四(9月11日),美国联邦贸易委员会(FTC)宣布已向七家公司发出命令,要求他们提供信息,以了解人工智能聊天机器人可能对儿童和青少年的负面影响。

七家公司分别为谷歌母公司Alphabet、OpenAI、Meta、Meta旗下的子公司Instagram、Snap、xAI以及Character Technologies Inc.(Character.AI的开发商)。

这家监管机构表示,人工智能(AI)聊天机器人可能被用于模拟类人交流以及与用户建立人际关系,因此需要了解这些公司采取了哪些措施来“评估机器人在充当陪伴者时的安全性”。

来源:FTC官网

声明提到,AI聊天机器人能够有效地模仿人类的特征、情感和意图,并且通常被设计成像朋友或知己一样进行交流,这可能会促使一些用户,尤其是儿童和青少年,信任聊天机器人并与其建立关系。

FTC主席安德鲁·弗格森(Andrew Ferguson)在声明中表示,保护儿童的网络安全是特朗普政府时期FTC的首要任务,同时该部门也致力于推动经济关键领域的创新。

FTC表示,其寻求的信息包括这些公司如何通过用户互动变现、如何开发和批准角色、如何使用和共享个人信息、如何监控并执行公司规则和服务条款的合规性,以及如何减轻负面影响等问题。

OpenAI回应道:“我们的首要任务是让ChatGPT对所有人都有用且安全,尤其在涉及年轻用户时,安全性至关重要。我们理解FTC存在一些问题和担忧,我们承诺将积极配合并直接回应。”

自2022年底ChatGPT推出以来,大量聊天机器人相继面世。与此同时,这些聊天机器人也带来了越来越多的伦理和隐私担忧。

尽管行业仍处于早期阶段,但聊天机器人“陪伴”功能可能会对社会产生深远影响,尤其是在美国正经历“孤独流行病”的背景下。

2023年时,美国政府医疗总监办公室曾公布了81页针对孤独危机的报告。报告指出,有约一半的美国人每天都会感到孤独。

研究表明,缺乏社会联系的人早逝风险比社会联系充分的人高出26%。缺乏社会联系还可能增加多种疾病风险,包括心脏病、中风、抑郁症等。

专家还表示,一旦AI技术开始自己训练自己,伦理与安全问题可能会进一步加剧,甚至导致不可预测的结果。

当下,全球一些最富有的企业家正在推动“陪伴型 AI”的发展。其中最知名的当属xAI推出的“AI伴侣”Ani——她的设定是一个金发碧眼、梳着辫子的女性人物。

在Ani上线将满30天时,马斯克透露,搭载该功能的Grok应用月活突破2000万,其中付费用户超400万,核心用户日均互动时长2.5小时,验证了情感交互场景的用户粘性。

不过,界定情感交互的边界非常复杂。上月,Meta在监管压力下调整了其AI聊天机器人的相关政策。

本月早些时候,OpenAI被迫推出一项政策,允许家长在系统检测到“严重痛苦”时链接帐户并接收警报。

相关内容

热门资讯

微科电源取得基于供电前馈与电子... 国家知识产权局信息显示,深圳市微科电源系统有限公司取得一项名为“一种基于供电前馈与电子阻尼的开关驱动...
股市必读:华虹宏力新发布《华虹... 截至2026年9月11日收盘,华虹宏力(688347)报收于219.07元,下跌2.25%,换手率3...
扬州鼎锋旗下基金完成备案,投资... 近日,扬州鼎锋引领股权投资合伙企业(有限合伙)完成中国证券投资基金业协会备案,正式进入投资运作阶段。...
深夜,全线跳水!AI芯片,重大... 芯片股集体杀跌! 北京时间13日晚间,芯片股在暗盘交易中集体大跳水,SK海力士跌超4%,英特尔跌近4...
股市必读:深南电路新发布《北京... 截至2026年9月11日收盘,深南电路(002916)报收于396.68元,上涨1.11%,换手率1...
股市必读:中瓷电子(00303... 截至2026年9月11日收盘,中瓷电子(003031)报收于118.06元,下跌1.71%,换手率2...
Anthropic对人工智能的... 9月13日,市场观察人士指出,人工智能高管们呼吁放缓技术发展的言论,短期内可能会对芯片制造商及供应链...
并入光洋股份版图:PCB利基龙... 恰逢近期光洋股份(002708.SZ)完成对常熟东南相互电子有限公司100%股权收购的工商变更登记,...
两大PCB牛股澄清:传闻不实 9月13日晚,两只PCB(印制电路板)大牛股金安国纪、超声电子发布股票交易异常波动公告称,未向英伟达...
《星星说》下周引言(9.14—... 作者:王祯的幻世界 下周引言: 上周我们说要注意情感关系的稳定性,放下猜忌,打开心扉好好沟通,尽量...