社交媒体巨头Twitter表示，为了防止在其平台上传播儿童性虐待材料（CSAM），一种新系统“无缝部署”，测试了由非盈利组织Thorn开发的技术。

<!---->

1/1





Skip Ad

Continue watchingafter the adVisit Advertiser website前往页面

The Twitter Safety account announced on Tuesday that it participated in a beta test of the group's AI-powered Safer solution to proactively detect, delete, and report text-based material containing child sexual exploitation.

“通过我们与Thorn的持续合作，我们正在做更多的工作来创建一个安全平台，”Twitter安全账号写到。“这项工作是为了打击在线儿童性剥削，这是我们不懈努力的延续，具体目标是扩大我们在应对儿童面临紧迫风险的高危内容方面的能力。”

“这个自托管的解决方案被无缝部署到我们的检测机制中，让我们能够专注于高风险账户，”它继续说。

 人工智能

谷歌、Meta、OpenAI与其他行业巨头联手打击AI儿童虐待图像

为了打击儿童性虐待材料（CSAM）的传播，包括谷歌、Meta和OpenAI在内的顶级生成AI开发商联盟承诺围绕新兴技术实施保护措施。
该团体是由两个非盈利组织联合召集的：儿童技术团队Thorn和总部位于纽约的所有技术都是人类。先前被称为DNA基金会的Thorn是由演员Demi Moore和Ashton Kutcher在2012年创立的。
该集体誓言在周二宣布，连同新的Thorn...

Launched in 2012 by actors Demi Moore and Ashton Kutcher, Thorn develops 工具 and resources focused on defending children from sexual abuse and exploitation. In April, Google, Meta, and OpenAI signed onto a 誓言 issued by Thorn and fellow non-profit organization All Tech is Human, vowing to enforce guardrails around their AI models.

“We’ve learned a lot from our beta testing,” Thorn's VP of data science Rebecca Portnoff, told Decrypt. “While we knew going in that child sexual abuse manifests in all types of content, including text, we saw concretely in this beta testing how machine learning/AI for text can have real-life impact at scale.”

正如Portnoff所解释的，Safer AI模型包含了一个在儿童安全相关文本上训练的语言模型和一个生成文本序列多标签预测的分类系统。预测得分从0到1，表示模型对文本与各种儿童安全类别相关性的信心水平。

尽管Portnoff不能透露哪些其他社交媒体平台参与了Safer产品组合的beta测试，但她表示其他公司的反应是积极的。

“一些合作伙伴分享说，该模型特别有用于识别有害的儿童性虐待活动，优先处理被举报的消息，并支持对已知不良行为者的调查，”Portnoff说。

 人工智能

英国团体警告，AI生成的儿童虐待材料可能会“淹没”互联网

英国的网络监视公司互联网观察基金会（IWF）再次发出警报，关于AI生成的儿童性虐待材料（CSAM）的迅速传播。在周三发布的一份新报告中，该组织报告说，在一个月内，一个单一的暗网论坛上发现了超过20,254幅AI生成的CSAM图像，并且此类可恶的内容的洪流可能会“淹没”互联网。
随着生成式AI图像生成器变得更加先进，创建逼真人类复制品的能力...

Due to the proliferation of generative AI 工具 since the launch of ChatGPT in 2022, internet watchdog groups like the UK-based Internet Watch Foundation have sounded the alarm about a flood of AI-generated child pornography circulating on 暗网 forums, saying the illicit material could 淹没 the internet.

The announcement by the Twitter Safety team came hours before the European Union demanded that the company explain reports of “减少内容管理资源.”

Twitter提交给欧盟监管机构的最新透明度报告称，自2023年10月以来，伊隆·马斯克的成本削减措施已导致平台内容审查团队规模缩减了近20%，且减少了监控的语言种类，从11种降至7种。

“委员会还在寻求更多详情，包括针对生成式AI工具在选举进程、非法内容传播和保护基本权利影响方面的风险评估和缓解措施，”需求补充道。

The EU 开启正式程序 against Twitter in December 2023 over concerns that the company violated the Digital Services Act across several areas, including risk management, content moderation, “dark patterns,” and data access for researchers.

委员会表示，Twitter必须在5月17日前提供所请求的信息，并在5月27日前回答额外的问题。

Edited by Ryan Ozawa.

获取每日加密新闻更新，通过您的收件箱保持最前沿。

Your Email

得到它！

得到它！

IPFSIPFS