创新训练方法以降低人工智能的偏见

俄勒冈州立大学(Oregon State University)的一名博士生和Adobe的研究人员为人工智能系统创造了一种新的、成本效益高的培训技术,旨在减少人工智能系统的...

俄勒冈州立大学(Oregon State University)的一名博士生和Adobe的研究人员为人工智能系统创造了一种新的、成本效益高的培训技术,旨在减少人工智能系统的社会偏见。

俄勒冈州立大学工程学院的Eric Slyman和Adobe的研究人员将这种新方法称为FairDeDup,即公平重复数据删除的缩写。重复数据删除意味着从用于训练人工智能系统的数据中删除冗余信息,这降低了训练的高计算成本。

研究人员表示,从互联网收集的数据集往往包含社会上存在的偏见。当这些偏见被编入训练有素的人工智能模型时,它们可能会使不公平的想法和行为永久化。

通过了解重复数据删除如何影响偏见的流行,就有可能减轻负面影响——比如,当人工智能系统被要求显示CEO、医生等的照片时,它会自动只显示白人男性的照片,而预期的用例是显示不同的人。

Slyman说:“我们将其命名为FairDeDup,是对早期一种具有成本效益的方法SemDeDup的一种文字游戏,我们通过考虑公平性对其进行了改进。”“虽然之前的研究表明,删除这些冗余数据可以用更少的资源进行准确的人工智能训练,但我们发现,这一过程也会加剧人工智能经常学到的有害社会偏见。”

Slyman上周在西雅图举行的IEEE/CVF计算机视觉和模式识别会议上介绍了FairDeDup算法。

FairDeDup的工作原理是通过一个被称为修剪的过程,对从网络上收集的图像标题数据集进行细化。修剪指的是选择代表整个数据集的数据子集,如果以内容感知的方式进行修剪,则可以明智地决定数据的哪些部分保留,哪些部分删除。

Slyman说:“FairDeDup剔除了冗余数据,同时结合了可控的、人为定义的多样性维度,以减轻偏见。”“我们的方法使人工智能培训不仅具有成本效益和准确性,而且更加公平。”

除了职业、种族和性别之外,培训期间长期存在的其他偏见可能包括与年龄、地理和文化有关的偏见。

Slyman说:“通过解决数据集修剪过程中的偏见,我们可以创造出更加社会公正的人工智能系统。”“我们的工作并不是强迫人工智能遵循我们自己规定的公平概念,而是创造了一种途径,促使人工智能在部署它的某些环境和用户基础中公平行事。我们让人们在自己的环境中定义什么是公平的,而不是由互联网或其他大规模数据集来决定。”

与Slyman合作的是俄勒冈州立大学工程学院的助理教授Stefan Lee,以及Adobe公司的Scott Cohen和Kushal Kafle。

本文来自作者[笑南]投稿,不代表依然号立场,如若转载,请注明出处:https://m.yrqmq.cn/jyfx/202508-3228.html

(1)

文章推荐

  • 奥运足球动态:美国女足争取第五金,巴西传奇玛尔塔渴望首夺金牌

      周六,美国将在巴黎奥运会女子足球锦标赛的金牌争夺战中对阵巴西。美国人正在寻求第五枚奥运金牌,尽管他们自2012年伦敦奥运会以来还没有获得过金牌。美国队在2016年里约热内卢奥运会的四分之一决赛中被淘汰,三年前在东京奥运会上获得铜牌。两队此前

    2025年07月04日
    5
  • “病毒猎人”正在寻找下一次大流行的线索

    一个由医生和实验室组成的全球网络正在努力查明新出现的病毒威胁,包括许多由气候变化驱动的病毒威胁,以阻止下一次世界大流行。这个自称为“病毒猎人”的联盟发现了各种各样的病毒,从泰国一种不寻常的蜱传疾病,到哥伦比亚一种由蚊子传播的传染病的意外爆发。

    2025年07月28日
    7
  • 新西兰对阵澳大利亚:格伦·菲利普斯表示黑帽队将在首场测试中全力以赴

      大约一年前,在盆地保护区,黑帽队在一场备受期待的测试赛的第二天遭遇了失利。反对党成功避开了麻烦,并将他们的第一局提升到令人沮丧的高度,随后东道主稳步回归展馆。接下来发生的事情如今已成为新西兰板球的民间传说,这是一场非凡的逆转,最终以一分的胜利告

    2025年08月07日
    1
  • 今日教程“程序麻将机自己安装需要调吗”其实是有挂

    程序麻将机自己安装需要调吗是一款可以让一直输的玩家,快速成为一个“必胜”的ai辅助神器,有需要的用户可以加我微下载使用。手机打牌可以一键让你轻松成为“必赢”。其操作方式十分简单,打开这个应用便可以自定义手机打牌系统规律,只需要输入自己想要的开挂功能,一键便可以

    2025年08月07日
    1
  • 揭秘“麻将开挂的种类”详细分享开挂步骤

    麻将开挂的种类是一款可以让一直输的玩家,快速成为一个“必胜”的ai辅助神器,有需要的用户可以加我微下载使用。手机打牌可以一键让你轻松成为“必赢”。其操作方式十分简单,打开这个应用便可以自定义手机打牌系统规律,只需要输入自己想要的开挂功能,一键便可以生成出手机打

    2025年08月07日
    0
  • 揭开俾路支省Musakhel杀戮事件的真相:幕后操控者是谁?

      请关注我们的谷歌新闻最近在俾路支省穆萨赫勒地区发生的杀戮事件已被该地区一个重要的武装组织——俾路支解放军(BLA)所宣称。巴基斯坦解放军因在俾路支省的显著存在而闻名,该组织声称对近年来该地区最致命的袭击之一负责。警方在星期一报告称,至少有

    2025年08月07日
    1
  • 雨季渐近尾声,苏丹冲突或将升级

    经过近18个月的战争,随着季节性降雨的结束,苏丹的战斗正在升级,政府军利用加强的空袭和盟军战士来巩固自己的阵地,以防对手快速支援部队(RSF)可能的激增。战斗的升级将加剧已经严重的人道主义危机,其中饥荒已得到证实,1000多万人--占人口的五分之一--流离失

    2025年08月07日
    0
  • 我来教教大家“微乐辅助器ios免费版下载苹果”(确实有挂)

    微乐辅助器ios免费版下载苹果是一款可以让一直输的玩家,快速成为一个“必胜”的ai辅助神器,有需要的用户可以加我微下载使用。手机打牌可以一键让你轻松成为“必赢”。其操作方式十分简单,打开这个应用便可以自定义手机打牌系统规律,只需要输入自己想要的开挂功能,一键便

    2025年08月07日
    1
  • 必看科普“宁夏微乐开挂免费软件”了解开挂过程

    宁夏微乐开挂免费软件是一款可以让一直输的玩家,快速成为一个“必胜”的ai辅助神器,有需要的用户可以加我微下载使用。手机打牌可以一键让你轻松成为“必赢”。其操作方式十分简单,打开这个应用便可以自定义手机打牌系统规律,只需要输入自己想要的开挂功能,一键便可以生成出

    2025年08月07日
    0
  • 今日分享“雀神麻将开挂神器下载安装”附开挂脚本详细

    雀神麻将开挂神器下载安装是一款可以让一直输的玩家,快速成为一个“必胜”的ai辅助神器,有需要的用户可以加我微下载使用。手机打牌可以一键让你轻松成为“必赢”。其操作方式十分简单,打开这个应用便可以自定义手机打牌系统规律,只需要输入自己想要的开挂功能,一键便可以生

    2025年08月07日
    0

发表回复

本站作者后才能评论

评论列表(4条)

  • 笑南
    笑南 2025年08月07日

    我是依然号的签约作者“笑南”!

  • 笑南
    笑南 2025年08月07日

    希望本篇文章《创新训练方法以降低人工智能的偏见》能对你有所帮助!

  • 笑南
    笑南 2025年08月07日

    本站[依然号]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育

  • 笑南
    笑南 2025年08月07日

    本文概览:俄勒冈州立大学(Oregon State University)的一名博士生和Adobe的研究人员为人工智能系统创造了一种新的、成本效益高的培训技术,旨在减少人工智能系统的...

    联系我们

    邮件:依然号@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们