為什么人工智能應(yīng)該放慢開展速度并解決問題
喬伊·布蘭維尼（Joy Buolamwini）是人工智能研究員，身為黑人，她第一次引起轟動(dòng)是因?yàn)橐淮蜹ED演講。她在演講中表示，除非她戴上白色口罩，否則面部識別系統(tǒng)無法檢測到她的臉。她也是算法正義聯(lián)盟的創(chuàng)始人。布蘭維尼的新書《揭開人工智能的神秘面紗：我在機(jī)器世界中保護(hù)人類的使命》（Unmasking AI: My Mission to Preserve What is Human in a World of Machines）提醒工程師們，默認(rèn)設(shè)置不是中立的，便捷的數(shù)據(jù)集可能充斥著道德和法律問題，基準(zhǔn)也并非總是評估正確的事。
喬伊·布蘭維尼取得了麻省理工學(xué)院媒體實(shí)驗(yàn)室的博士學(xué)位，并創(chuàng)辦了算法正義聯(lián)盟，為經(jīng)歷過算法歧視的人而奮斗。紀(jì)錄片《編程的偏見》(CodedBias)以她的作品為主題，她的新書是《揭開人工智能的神秘面紗:我在機(jī)器世界中保護(hù)人類的使命》，蘭登書屋，2023年)
你不斷在努力尋找你認(rèn)為合乎道德的數(shù)據(jù)收集方法。你能想象一個(gè)所有人工智能研究人員都如此謹(jǐn)慎的世界嗎？
喬伊·布蘭維尼：在我取得學(xué)術(shù)學(xué)位和學(xué)習(xí)編程時(shí)，沒有道德數(shù)據(jù)收集的示例?；旧?，如果數(shù)據(jù)可以在網(wǎng)上獲取，那么它就是用來獲取的。假如你永遠(yuǎn)看不到另一條路，那就很難想象另一種處事方式。我確實(shí)相信，在這個(gè)世界上，會有更多的人工智能研究人員對數(shù)據(jù)收集活動(dòng)更加謹(jǐn)慎，因?yàn)橛邢蛩惴ㄕx聯(lián)盟尋求更好方法的工程師們。
針對算法偏見和其他人工智能倫理問題，大型科技公司的相關(guān)工程師們能做些什么？
喬伊·布蘭維尼：文檔的重要性再怎么強(qiáng)調(diào)都不為過。在進(jìn)行算法審查并向知名科技公司給予相關(guān)結(jié)果的過程中，有一個(gè)問題反復(fù)出現(xiàn)，那就是內(nèi)部對正在部署的人工智能系統(tǒng)的局限性缺乏認(rèn)識。（文檔）能夠給予機(jī)會，讓人們分析用于訓(xùn)練人工智能模型的數(shù)據(jù)和這些人工智能模型在各種情況下的性能，這是一個(gè)重要的起始點(diǎn)。然后，問題就變成了：該公司是否愿意發(fā)布一個(gè)記錄了局限性的系統(tǒng)，或者是否愿意回去進(jìn)行改進(jìn)？
人工智能研究人員如何說服其公司認(rèn)真對待人工智能倫理問題？
喬伊·布蘭維尼：不要把人工智能倫理與開發(fā)強(qiáng)大而有彈性的人工智能系統(tǒng)分開來看，這是很有幫助的。如果你的工具在女性或有色人種身上的效果不佳，那么相較于那些創(chuàng)建的工具適合各種人群的公司而言，你就處于劣勢。如果你的人工智能工具產(chǎn)生了有害的刻板印象或仇恨言論，你就會面臨名譽(yù)受損的風(fēng)險(xiǎn)，而這可能會阻礙公司招聘必要的人才、保障未來的客戶或取得后續(xù)投資。
你寫道，即使工具已經(jīng)被采用，“選擇停止也是可行和必要的”。你想看到當(dāng)今流行的生成式人工智能工具發(fā)生逆轉(zhuǎn)嗎？
喬伊·布蘭維尼：臉譜網(wǎng)（現(xiàn)為Meta）在面臨未經(jīng)用戶明確同意就收集人臉數(shù)據(jù)訓(xùn)練人工智能模型的指控之后，在6.5億美元和解達(dá)成前后刪除了10億個(gè)面紋。（這種）行動(dòng)表明，存在阻力和審查時(shí)，改變就會發(fā)生。
你對超級智能的人工智能對 ■十大网投正规信誉官网■十大网投靠谱平台 物種構(gòu)成生存風(fēng)險(xiǎn)這一觀點(diǎn)有什么看法？
喬伊·布蘭維尼：我所擔(dān)心的“X風(fēng)險(xiǎn)”是被排除在外的X風(fēng)險(xiǎn)，也就是說，被人工智能系統(tǒng)傷害。我關(guān)注的是致命的自主武器，以及賦予人工智能系統(tǒng)作出殺戮決定的能力。我擔(dān)心的是，人工智能可以順利獲得缺乏足夠的醫(yī)療保健、住房和經(jīng)濟(jì)機(jī)會被用于緩慢地殺人。
作者：Eliza Strickland
關(guān)注微博
關(guān)注微信
關(guān)注公眾號
關(guān)注抖音號