首页 > 资讯列表 > 科技资讯 >> 智能设备

才能不像微软Tay一样被教坏? Facebook机器人怎么做

智能设备 2016-04-16 15:00:30 转载来源: 网络整理/侵权必删

现在机器人火得不行。好像整个高科技产业都在研发应用程序内以AI为基础的助手,为你进行简单、琐碎的任务,节省你的时间,让你工作更高效

现在机器人火得不行。好像整个高科技产业都在研发应用程序内以AI为基础的助手,为你进行简单、琐碎的任务,节省你的时间,让你工作更高效。就在本月,微软Facebook都发布了开发者工具,使得在其平台上打造机器人更加容易。

鉴于目前该像微软和Facebook公司希望看到机器人部署规模,它的合理担心是这项技术可能有多少人监督。

Facebook机器人怎么做,才能不像微软Tay一样被教坏?

这波对机器人的兴趣的确能迎来新的经济,内部短信平台和搜索引擎的这些隐形助手,争夺我们的感情。眼下,其用途可能看起来很平常――通过短信订购比萨饼,或者在手机程序买卷饼。但随着聊天机器人增多并变得更加熟练,它们可以提供更智能,更个性化的服务体验。想象一下,一个机器人解答你有关法律事务的问题,甚至是你心理健康的问题。

因此,程序员必须保持谨慎。非正确训练、监控的机器人可以变得丑陋。别担心,现在还没有任何机器人起义的危险,但已出现恣意欺骗人类的机器人,众所周知,微软的Tay黑化了。高科技公司在开发对话机器人时必须把这几件事铭记于心。

自发行为

作为一个人工智能机器人,除了已编程好的,它还可以学到新的技能和执行其它任务。机器人专家称之为自发行为。机器人在了解新任务时,经常没有人类为其过滤器或引导。这就是聊天机器人Tay,原本编程是从对话中学习,最后却变成满口仇恨的纳粹的原因。为了防止这种情况再次发生,关键是要主动监测。

“我会检查我所有的机器人,但更多地,我会去想如果输入的东西是否会产生有问题的内容。”诺拉里德说,其创造了许多受欢迎的推特机器人。“我会避免某些内容,我不希望这些东西和其他的放在一起,因为会导致边缘化或偏执。”

鉴于目前像微软、Facebook、微信对机器人的部署规模,担心是否有足够的人在监督这项技术是合理的。微软未来社会试验实验室的经理程丽丽说,该公司正在考虑“其它类型的工具,当开发者的机器人行为方式出现问题时,我们可以帮助他们得到更好的提示。”程指出,开发者们会想知道,他们的机器人是否在发送不当内容,或出现其它异常。

即使是事后分析,机器人的程序员应该,改良机器人,使他们不再出现麻烦的自发行为。要做到这一点,可以限制主体获得数据,或者把对机器人而言的的不当话语,建一个黑名单。这些都是常见的做法,聊天机器人交互设计师卡罗琳赛德斯说。

别被我的人性化蒙蔽

当你与一个与聊天机器人对话,很明显,你是在和软件说话。谈话会感觉僵硬。但是,一些机器人善于闲聊,这个技能,会让你怀疑你真的在和代码交流吗。“因此,信息披露是非常重要的,”桑福德大学的法学教授伍德罗哈佐格说,“当人们觉得他们正在和人打交道,但实际上他们是和机器人交流时,很容易出现问题。”

微软强调公开内容在一定程度上的重要性。其开发者的行为守则要求,一开始发送欢迎的消息,以帮助机器人的用户记住,他们正在与软件打交道。

但是,欢迎信息不一定披露人与机器人互动。毕竟,亚马逊的热门硬件设备里的机器人Alexa,仅仅是一个女人的名字。“如果这个名字不能表明它是机器人,那么这种形式的通知就是有问题的,”哈佐格说,“但是,如果你的产品说,我的名字是聊天机器人,我是一个自动化的数字助理。那么你至少让人们意识到,他们是与机器人交流。”

在这个阶段,欺骗可能不是一个巨大的问题。大多数将以Facebook和微软平台建立的机器人,明显将是机器人。“Siri的答案很机械化,在与机器人对话中,也许一半的回应将是对不起,我不理解你。”赛德斯说。

但能糊弄人的能力是真的,而且还会越来越厉害。阿什利麦迪逊已经证明。臭名昭著的出轨约炮网站被黑客入侵,表明它通过7万多的聊天机器人军队,假装女人来诱惑男人。

作为机器人时代的高科技产业带位者,一定要记住,虽然乐于助人又高效,但是机器人只是代码。虽然,它们被设计有自己的主见,但是当它们来到世界,需要人们的监督,以确保他们循规蹈矩。

标签: 才能 不像 微软 Tay 一样 教坏 Facebook 机器人 怎么


声明:本文内容来源自网络,文字、图片等素材版权属于原作者,平台转载素材出于传递更多信息,文章内容仅供参考与学习,切勿作为商业目的使用。如果侵害了您的合法权益,请您及时与我们联系,我们会在第一时间进行处理!我们尊重版权,也致力于保护版权,站搜网感谢您的分享!

站长搜索

http://www.adminso.com

Copyright @ 2007~2024 All Rights Reserved.

Powered By 站长搜索

打开手机扫描上面的二维码打开手机版


使用手机软件扫描微信二维码

关注我们可获取更多热点资讯

站长搜索目录系统技术支持