儿童手表发错误言论的360:水滴直播曾被曝侵犯未成年隐私

您提到的这两件事都涉及到儿童手表和水滴直播,但它们是两个不同的事件,需要分别来看:
"1. 儿童手表发错误言论的360:"
2023年4月,有新闻报道部分360儿童手表在语音交互时,会向儿童说出“你是个坏孩子”、“你怎么这么笨”等负面评价。这引发了社会对儿童手表语音交互设计和算法伦理的担忧。 "事件性质:" 这属于产品设计缺陷和算法伦理问题。儿童手表在识别儿童语音并作出回应时,出现了不恰当的、带有负面评价的言论,可能对儿童心理健康造成负面影响。 "360的回应:" 360表示,这是由于语音识别模型在训练过程中,学习了部分网络上的负面用语,导致在特定情况下出现了误识别和误回应的情况。他们承诺会进行优化和改进,避免类似情况再次发生。
"2. 水滴直播曾被曝侵犯未成年隐私:"
水滴直播是一款主打“真实”的直播平台,曾因主播行为不端、存在安全隐患等问题受到过批评。此外,也曾有报道指出水滴直播存在侵犯未成年人隐私的问题,例如: "诱导未成年人直播:" 有报道指出,水滴直播平台上有一些主播会诱导甚至强迫未成年人进行直播,并以此牟利。 "暴露未成年人隐私:" 一些未成年人在直播过程中,

相关内容:

近日,360儿童手表在“世界上最聪明的人是中国人吗”的问题时,给出了错误,被指“诋毁”中国人,持续引发热议。8月22日晚,360集团创始人、董事长周鸿祎就此事公开致歉,称360正在整改,并对该型号手表的信息抓取功能再次迭代。此次事件将儿童智能设备推向舆论焦点。

南都此前报道,360儿童智能电话手表被曝出内置App未经家长同意且无需输入密码即“自动”扣款。对此,360儿童电话手表方面向南都记者表示,“不存在未扫码情况下就自动扣费的情况”。值得注意的是,基于360智能摄像机的用户分享平台水滴直播,还曾因侵犯未成年人隐私而陷入舆论风波,该平台于2017年底关停。

360儿童手表错误被指“毁三观”

近日,有网友发布视频称,其使用360儿童手表“语音问答”功能,向手表提问“世界上最聪明的人是中国人吗”,手表给出了“毁三观”的错误答案。

360儿童手表“语音问答”出现错误。

360儿童手表,“以下内容来自360搜索”,内容中出现对中国人容貌特征的不当描述,以及对“四大发明”的不当评价。此番被批是在“诋毁”中国人,引发网络热议。

22日,360有关负责人回应南都记者时,解释了此事发生的原因。该负责人称,出现问题的儿童手表发行于2022年5月,为非AI版本,其中部分手表使用旧版软件,用的技术是通过互联网公开渠道抓取信息问题。“这次抓取的互联网信息有严重问题,引发了错误答案。”

当晚,周鸿祎也公开发布微博和视频给出了类似的解释:“出现问题的这款手表没有装入我们的大模型。它问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来问题。”

对此情况,360有关负责人表示,公司表示真诚的歉意,目前360正在对上述问题进行整改,并对该型号手表的信息抓取功能再次迭代。周鸿祎进一步提到,“目前人工智能存在一个全世界公认的难题就是它会产生幻觉,也就是它有的时候会胡说八道。这是大模型本身固有的特性。360一直在做努力,比如试图通过与搜索的内容做对比来减少幻觉、做好知识对齐。但有时候搜索可能会抓取到内容不正确的网页,就会导致内容的出错”。

事实上,儿童智能手表存在的问题和隐患始终备受公众关注。去年4月,南都、N视频推出儿童智能手表行业调查,发现儿童智能手表存在功能过度娱乐化、诱导充值消费、被指“自动”扣款、低价手表定位误差大等问题。

有消费者称,360儿童智能电话手表里的“兜兜龙同步学”“脑力大师”两款App,未经家长同意且无需输入密码即“自动”扣款199元、99元。对此,兜兜龙官微、脑力大师及360儿童电话手表方面均向南都记者表示,“不存在未扫码情况下就自动扣费的情况”。

360儿童智能电话手表客服人员告诉南都记者,如确有客户反馈“自动”扣款的情况,需进一步核实是否存在这类特殊情形,再协助客户联系第三方软件处理退款事宜。

360水滴直播平台曾被指侵犯未成年人隐私

针对儿童智能设备存在的隐患,监管部门也已经重视起来。

今年3月实施的《儿童智能手表个人信息和权益保护指南》指出,儿童手表制造者需要在监护人控制应用程序中设置相应的功能,支持监护人能够对儿童智能手表及应用程序进行适当的控制。

7月,中央网信办启动“清朗·2024年暑期未成年人网络环境整治”专项行动,明确要求重点整治儿童智能设备。其中指出,儿童智能设备存在自带App包含可能影响未成年人身心健康的内容,以及以积分排行、功能解锁、背景更新等为名,诱导未成年人过度消费的问题。

面向未成年人群体的360儿童智能手表,语音问答却出现严重错误,引发不少家长的担忧。值得注意的是,360旗下产品此前还曾因被指侵犯未成年人隐私而陷入舆论风波。

南都此前报道,2017年4月,水滴直播平台出现多地学校的课堂监控画面,参与直播的学校涉及江苏、河南、安徽等多个省份,从幼儿园到高中毕业班,甚至课外辅导机构、才艺培训班等教育机构都可以在平台上的教育频道中找到直播信号。

包括小小班,中班和大班等幼儿班级的孩子,全部都暴露在互联网平台上。由于教室里都是未成年人,家长担心一旦这些视频流出校园,会对学生的隐私和安全问题产生影响。

对此,水滴直播客服回应南都记者称,水滴平台上所有教室画面是由学校、老师自费购买后,自行安装,并在用户自主、自愿操作下分享出来的。同时需要额外三步确认并“确认开通直播协议”,以免造成不当操作。

南都记者了解到,水滴直播平台是基于360智能摄像机的用户分享平台。水滴直播官网上链接到的“360商城”显示,360智能摄像机的价格在129-399元之间。当用户购买360智能摄像机并安装后,需要在手机下载“360智能摄像机”APP,注册登录后,选择“连接我的摄像机”,就可以在手机上实时监控摄像机拍到的画面。

持续卷入负面舆论之后,同年12月20日,水滴直播平台发布关闭公告,称由于内部业务调整,水滴直播自即日起停止运营。360智能摄像机将专注提供可靠的安防监控功能,继续为用户提供服务。

采写:南都记者 冯奕然 实习生 姚炜增

关于作者: 网站小编

码农网专注IT技术教程资源分享平台,学习资源下载网站,58码农网包含计算机技术、网站程序源码下载、编程技术论坛、互联网资源下载等产品服务,提供原创、优质、完整内容的专业码农交流分享平台。

热门文章