提供永久免费的API接口，查看更多API接口，如果您有其他免费API资源，请联系我们，造福人类。

定制开发，免费评估，免费咨询，价格便宜，售后保障，前往开发服务中心或联系开发客服中心

推特宣布了其首个算法偏见悬赏挑战，为那些能够帮助这家社交媒体巨头确定一系列问题的人提供500至3500美元不等的现金价格。

在去年遭到强烈反对后，该公司在五月份承认，它的自动裁剪算法反复裁剪出黑色的脸，而代之以白色的脸。根据推特的研究，它也更青睐男性而非女性。多个推特用户通过自己或前总统巴拉克·奥巴马等名人的照片证明了这一事实。

推特META总监拉姆曼·乔杜里，

“5月，我们分享了我们在显著性算法（也称为图像裁剪算法）中识别偏差的方法，我们将代码提供给其他人，以复制我们的工作。我们希望通过邀请和激励社区帮助识别这种算法的潜在危害，使这项工作更进一步，而不仅仅局限于我们自己，”两人说，他们的灵感来自于研究和黑客社区如何帮助安全领域建立识别和缓解漏洞的最佳实践，以保护公众。

他们说，Twitter希望建立一个类似的社区，但一个专注于机器学习道德的社区将帮助公司“识别更广泛的安全漏洞”“面对这一挑战，我们的目标是在推特和业界开创一个先例，主动和集体地识别算法危害，”乔杜里和威廉姆斯写道。“对于这一挑战，我们正在重新分享我们的显著性模型和用于生成给定预测最大显著点的图像裁剪的代码，并要求参与者建立自己的评估。成功的条目将考虑定量和定性两种方法。“<

< P>”在HackerOne上有一个投稿页面，人们可以在这里找到更多的信息，用来记录每个条目的细节和如何进入的细节。参赛作品将由阿里尔·赫伯特·沃斯（Ariel Herbert Voss）、马特·米切尔（Matt Mitchell）、佩特·扎特科（Peiter“Mudge”Zatko）和帕特里克·霍尔（Patrick Hall）进行评判。

排名第一的获奖者将获得3500美元，排名第二的获奖者将获得1000美元，排名第三的获奖者将获得500美元。最具创新性和最具推广性的获奖者也将获得1000美元的奖励。比赛的获胜者将于8月8日在DEF CON AI村研讨会上宣布。

威廉姆斯告诉ZDNet，除了学习更多关于照片裁剪功能的知识外，她还希望了解人们认为“伤害”意味着什么。

“作为一名产品经理，我努力站在使用我们产品或受我们产品影响的人的立场上，理解这样一个词的含义。传统上，我们会听到人们已经开始关注算法偏见——我希望我们会听到更广泛的人群，他们会对伤害对他们意味着什么有很多看法，“威廉姆斯说。

”拉姆曼在与AI村组织者交谈后，向我和我们的首席技术官提出了这个想法——这需要一家相当有风险承受能力的公司来率先做这样的事情。推特的领导层愿意——甚至非常热情。我们没有太多时间来确定DEFCON的最后期限，因此，我们两人直接进行了头脑风暴，讨论了如何确定我们可以在几周内发布的内容，以便做出决定。”

她补充说，这次比赛将使Twitter更加明智地了解下一次活动应该如何进行，并有助于让参与者更容易、更具包容性。

威廉姆斯解释说，该公司还希望了解更多关于他们的技术可能需要立即纠正的信息，以及更多关于如何更好地防止伤害的信息。团队将更好地了解如何测试和评估算法的偏差，Williams说。

Williams指出，在新兴的机器学习偏见研究领域中有许多未知因素，很少有计划积极解决算法风险。

我希望我们能开始解决更多未知因素。最重要的是，也许我们将学习如何与这个社区合作，更好地测量和分类危害的方法，验证报告所需的方法，减轻和/或防止未来新危害的方法——所有这些我们都可以分享给社区，”威廉姆斯说。

“这并不仅仅是为了我们的利益——如果不是为了最终的透明性，我个人不会把汗水投入其中。”

NIST呼吁帮助开发管理AI风险的框架，2021年上半年超过3亿美元：SonicWall因侵犯GDPR隐私被亚马逊罚款8.87亿美元，您同意使用条款并确认隐私政策中概述的数据实践。

您还将免费订阅ZDNet的今日技术更新和ZDNet公告时事通讯。您可以随时取消订阅这些时事通讯。

您同意接收CBS公司系列的更新、提醒和促销活动，包括ZDNet的今日技术更新和ZDNet公告时事通讯。您可以随时取消订阅

2023-03-22 10:04:39