您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
初创公司开发人工智能工具来检测电子邮件骚扰
2020年01月09日 由 TGS 发表
492733
0
自2017年底Me Too运动兴起以来，各类骚扰事件受到越来越多的关注，包括工作场所的骚扰，以及通过电子邮件或即时消息进行的骚扰。据英国《卫报》报道，人工智能研究人员和工程师一直在开发一种通过文本通信检测骚扰的工具，这种工具被称为MeTooBots。为了标记潜在的有害和骚扰通信，世界各地的公司都在实施MeTooBots。这方面的一个例子是Nex AI公司创造的一个机器人，它目前被大约50个不同的公司使用。该机器人会利用一种算法检查公司文件、聊天和电子邮件，并将其与欺凌或骚扰信息的训练数据进行比较，将有害信息发送给人力资源经理进行审核。
另一方面，麻省理工学院和哈佛大学的人工智能教授布莱恩·苏比拉纳则表示，试图使用人工智能来检测骚扰有其局限性。骚扰可能是非常微妙和难以察觉的，通常只表现为一种模式，需要检查很久的数据才会显露出来。到目前为止，机器人还不能超越对某些触发词的检测。尽管检测骚扰十分复杂，但苏比拉纳相信，机器人可以在打击网络骚扰方面发挥作用。可以通过机器人创建一个潜在问题信息的数据库，进行大数据比对筛查，对骚扰信息进行拦截。数据和隐私的保密性是一个主要问题。如果滥用这种技术，可能会造成一种不信任和怀疑的气氛。使用机器人侦测骚扰，同时保护匿名性和隐私的方法，必须由机器人开发者、公司和监管机构共同制定。
在保护隐私的同时，利用机器人和人工智能预测能力的一些方法保持通信匿名。例如，机器人可以生成报告，其中只包括可能有害的语言的存在，以及可能的骚扰语言出现的频率。利用这种方式，人力资源部门可以了解到，在意识研讨会之后，使用骚扰性语言的情况是否有所减少，或者反过来可以确定，是否应该留意骚扰行为的增加。
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消