人工智能的六大挑戰(zhàn)與專家們提出的解決方案
人工智能面臨著多重挑戰(zhàn)，IEEE的專家們對(duì)此提出了相對(duì)應(yīng)的解決方案。
一、合成現(xiàn)實(shí)
【挑戰(zhàn)】：人工智能可以生成超現(xiàn)實(shí)的圖像和視頻，顯示人們?cè)谧龌蛘f他們從未做過或說過的事情。這樣的“深偽技術(shù)”會(huì)使虛假信息的傳播更加難以察覺。
【解決方案】：IEEE高級(jí)會(huì)員Carmelo José Albanez Bastos Filho表示“人工智能算法經(jīng)過訓(xùn)練，可以識(shí)別深偽技術(shù)特有的模式和特征。這些算法分析視覺和音頻特征，尋找不規(guī)則或與正常模式的偏差?！?/p>
二、數(shù)據(jù)泄露
【挑戰(zhàn)】：你輸入聊天機(jī)器人的信息可以用來訓(xùn)練它。這可能會(huì)導(dǎo)致模型泄露敏感或私人信息。
【解決方案】：對(duì)于聊天機(jī)器人數(shù)據(jù)隱私問題，IEEE會(huì)員汪齊齊教授指出：“將敏感數(shù)據(jù)存儲(chǔ)在私有環(huán)境中可以有效避免數(shù)據(jù)被添加到公共的全球數(shù)據(jù)庫中?！?/p>
三、虛假數(shù)據(jù)
【挑戰(zhàn)】：有偏見、不準(zhǔn)確或虛假的數(shù)據(jù)可能會(huì)被注入人工智能模型，從而產(chǎn)生錯(cuò)誤的結(jié)果和有缺陷的系統(tǒng)。人工智能威脅檢測技術(shù)已經(jīng)在現(xiàn)實(shí)世界中被用來重新培訓(xùn)“垃圾郵件”過濾器。
【解決方案】：IEEE終身高級(jí)會(huì)員Raul Colcher表示：“這種形式的攻擊，可以采用更加嚴(yán)格的數(shù)據(jù)過濾和審查機(jī)制，確保模型的學(xué)習(xí)和訓(xùn)練不受不當(dāng)干擾。先進(jìn)的過濾、監(jiān)控和人工監(jiān)督系統(tǒng)已經(jīng)對(duì)其進(jìn)行了反擊。”
四、高級(jí)網(wǎng)絡(luò)釣魚
【挑戰(zhàn)】：網(wǎng)絡(luò)釣魚詐騙涉及使用欺詐電子郵件誘騙人們或公司匯款或共享敏感數(shù)據(jù)。人工智能使創(chuàng)建更真實(shí)但仍然具有欺騙性的電子郵件和語音郵件變得更容易。
【解決方案】：IEEE會(huì)員Yale Fox表示：“組織可考慮投入先進(jìn)的威脅檢測技術(shù)，及時(shí)發(fā)現(xiàn)和攔截惡意嘗試。這些技術(shù)利用機(jī)器學(xué)習(xí)和人工智能來識(shí)別和標(biāo)記潛在的網(wǎng)絡(luò)釣魚企圖。”
五、躲避系統(tǒng)防護(hù)
【挑戰(zhàn)】：人工智能開發(fā)人員通常會(huì)創(chuàng)建防護(hù)欄，以防止他們的創(chuàng)作產(chǎn)生攻擊性或非法內(nèi)容。
【解決方案】：IEEE會(huì)員Rebecca Herold表示：“總有人會(huì)努力破解系統(tǒng)。阻止它們的最好方法是進(jìn)行更嚴(yán)格地開發(fā)，然后全面測試大型語言模型算法?！?/p>
六、AI VS AI
【挑戰(zhàn)】：人工智能正被用來利用或?qū)蛊渌斯ぶ悄芟到y(tǒng)——順利獲得對(duì)抗性人工智能等技術(shù)來欺騙通常具有關(guān)鍵安全要求的系統(tǒng)。
【解決方案】：IEEE高級(jí)會(huì)員Amol Gulhane表示：“順利獲得在訓(xùn)練過程中將模型暴露在各種攻擊場景中，它將變得更加完善，能夠識(shí)別和拒絕惡意輸入?！?/p>
文章來源：IEEE電氣電子工程師
關(guān)注微博
關(guān)注微信
關(guān)注公眾號(hào)
關(guān)注抖音號(hào)