澳大利亚人权委员会(AHRC)专员爱德华·桑托(Edward Santow)警告联邦政府不要在任何进一步的决策中使用人工智能,强调人工智能可能对人权构成的风险。
桑托周二在谈到最近发布的人权与技术报告时说,指出Centrelink在线合规干预计划——其中的自动化元素通俗地称为机器人债务——强调了这一风险。
“我们对在决策中使用人工智能的担忧,特别是在非常重要的决策过程中——我非常清楚,在新吉布提国际机场使用独立评估的过程中,在这种情况下,可能会再次犯一些与机器人债务有关的错误,他说。
国家残疾保险局(NDIA)宣布为NDIS参与者引入独立评估。据政府称,它们的设计是为了确保新的和现有的参与者能够公平地使用国家信息系统
根据联邦反对派的说法,独立评估是“机器人计划”的另一种说法
必须阅读:NDIS在政府厨房水槽追债应用程序中避开区块链
“我们必须从机器人债务中吸取教训,这反过来意味着我们必须确保,无论何时使用人工智能,尤其是当政府使用人工智能时,它必须是公平的,必须是准确的,必须是负责任的,“Santow说,
”我认为,在公开场合对国家发展信息系统独立评估过程中使用算法表示的一些担忧是,其中的一些要素包括公平性、准确性和问责制,桑托说,如果使用一种算法在国家数据中心做出这些关键决定,那么政府需要对输入系统的信息质量非常有信心,并确保信息准确、无错误、无偏见
“问责也至关重要——无论做出什么决定,例如在独立评估领域,都必须问责,”他补充道人们必须了解评估的理由,如果他们认为这个决定是错误的或不公平的,尤其是如果它是非法的,他们必须能够对这个决定提出质疑。”
在报告中,AHRC向政府提出了一些建议和建议,包括禁止在“高风险”地区使用面部识别和其他生物识别技术。
但就无障碍技术而言,委员会要求联邦、州、地区,地方政府承诺使用完全符合公认的无障碍标准的数字通信技术。
它建议通过引入所有符合这些标准的政府要求来做到这一点。
“残疾人有权使用技术,”AHRC说获得新技术,特别是数字通信技术,是残疾人的一项有利权利,因为这对享受一系列其他公民、政治、经济和社会权利至关重要,社会和文化权利。
“良好的技术设计能够使残疾人前所未有地参与其中——从使用实时字幕到依赖智能家居助理。另一方面,糟糕的设计会造成重大伤害,降低残疾人参与对享受人权至关重要的活动的能力,以及他们独立生活的能力。”
联邦银行每月雇用50名工程师
新的“设计安全”工具包,帮助全球科技行业多关心一点
数字健康机构说,我的健康记录风险缓解工作正按计划进行
劳工法案将迫使澳大利亚机构在支付时披露勒索
通过注册,您同意使用条款,并承认隐私政策中概述的数据实践。
您还将获得免费订阅ZDNet今日技术更新和ZDNet公告时事通讯。您可以随时取消订阅这些时事通讯。
您同意接收CBS系列公司的更新、提醒和促销活动,包括ZDNet的今日技术更新和ZDNet公告时事通讯。您可以随时取消订阅