?是時(shí)候嚴(yán)肅對待人工智能監(jiān)管問題了
是時(shí)候嚴(yán)肅對待人工智能監(jiān)管問題了
去年底，OpenAI向全球推出了其大型語言模型ChatGPT，之后人們經(jīng)歷了狂熱的6個(gè)月。從那之后，針對 ■十大网投正规信誉官网■十大网投靠谱平台 正在進(jìn)行的全球性人工智能實(shí)驗(yàn)所帶來的后果，我每天至少都會進(jìn)行一次對話。 ■十大网投正规信誉官网■十大网投靠谱平台 還沒有準(zhǔn)備好，我指的是每個(gè)個(gè)體，包括個(gè)人、組織、政府，甚至是現(xiàn)在部署相關(guān)技術(shù)的公司。
未來生命研究所發(fā)布了一封呼吁暫停人工智能研究的公開信，人工智能領(lǐng)域的許多知名人士（包括一些著名的IEEE會員在內(nèi)）都在該公開信中簽名了。該公開信反映了一種態(tài)度，即從 ■十大网投正规信誉官网■十大网投靠谱平台 自己的利益考慮， ■十大网投正规信誉官网■十大网投靠谱平台 的動作太快了。正如新聞經(jīng)理瑪格?安德森（Margo Anderson）在The Institute在線報(bào)道中所述，簽名者包括IEEE高級會員、人工智能倫理大師埃莉諾?內(nèi)爾?沃森（Eleanor “Nell” Watson）和IEEE會士、IBM軟件工程首席科學(xué)家格雷迪?布奇（Grady Booch）。他告訴安德森：“這些模型正在被那些對其語料、架構(gòu)、防護(hù)措施或處理用戶數(shù)據(jù)政策不透明的公司肆意釋放。我的經(jīng)驗(yàn)和我的職業(yè)道德告訴我，我必須表明立場……”
然而，研究和部署沒有暫停，人工智能在一系列領(lǐng)域都變得至關(guān)重要。例如，資深編輯塞繆爾?K. 摩爾（Samuel K. Moore）在本期雜志第7頁的《芯片設(shè)計(jì)中的丑陋部分》中介紹道，谷歌已經(jīng)應(yīng)用了深度強(qiáng)化學(xué)習(xí)來優(yōu)化芯片上的邏輯和內(nèi)存的位置。在本期雜志第24頁的《人工智能勘探礦藏》一文中，KoBold Metals的聯(lián)合創(chuàng)始人解釋了他們是怎樣使用機(jī)器學(xué)習(xí)模型來搜索電動汽車電池所需礦物的。
在擬議暫停研究和倉促應(yīng)用人工智能之間，還存在著要求政府制定相關(guān)法規(guī)的社會、經(jīng)濟(jì)和政治挑戰(zhàn)，這是由OpenAI的山姆?阿特曼（Sam Altman）和谷歌的桑達(dá)爾?皮查伊（Sundar Pichai）提出的。
為了幫助理解現(xiàn)在的人工智能狀態(tài)，我與本刊資深編輯伊莉莎?斯特里克蘭（Eliza Strickland）進(jìn)行了交談，她最近因其生物醫(yī)學(xué)、地質(zhì)工程和人工智能報(bào)道取得了Jesse H. Neal獎的最佳作家作品獎項(xiàng)。 ■十大网投正规信誉官网■十大网投靠谱平台 一致認(rèn)為，誠信可能是近期最緊迫的問題。解決信息的來源及其可追溯性是關(guān)鍵。否則，人們可能會被大量不良信息淹沒，以至于人類對于真實(shí)和虛假的脆弱共識完全破裂。
歐盟在人工智能的監(jiān)管方面領(lǐng)先于世界，提出了《人工智能法案》。該法案將人工智能應(yīng)用的風(fēng)險(xiǎn)分為3類：會產(chǎn)生無法接受的風(fēng)險(xiǎn)的應(yīng)用應(yīng)當(dāng)被禁止、高風(fēng)險(xiǎn)應(yīng)用程序應(yīng)當(dāng)受到嚴(yán)格監(jiān)管、被認(rèn)為幾乎沒有風(fēng)險(xiǎn)的應(yīng)用程序不予監(jiān)管。
雖然歐盟的《人工智能法案》涉及可追溯性和深度偽造，但并未具體涉及生成型人工智能，這是一種可以根據(jù)其訓(xùn)練數(shù)據(jù)生成高質(zhì)量文本、圖像或其他內(nèi)容的深度學(xué)習(xí)模型。不過，計(jì)算機(jī)科學(xué)家杰倫?拉尼爾（Jaron Lanier）最近在《紐約客》上發(fā)表的一篇文章直接探討了生成型人工智能系統(tǒng)中的來源和可追溯性問題。
拉尼爾將生成型人工智能視為一種社會協(xié)作，它將人類所做的工作融合在了一起。他幫助開發(fā)了一個(gè)名為“數(shù)據(jù)尊嚴(yán)”的概念，可以將其大致理解為，對于機(jī)器生成的此類產(chǎn)品，如果能夠追溯到人類的數(shù)據(jù)源，應(yīng)當(dāng)標(biāo)記出相關(guān)人員的貢獻(xiàn)。“在這個(gè)理念的某些版本中，人們可以因自己創(chuàng)造的內(nèi)容而取得報(bào)酬，即使這些內(nèi)容順利獲得大型模型進(jìn)行過濾和重組了，技術(shù)中心也會就促進(jìn)人們達(dá)成所愿而收費(fèi)?！崩釥枌懙?。
現(xiàn)在，這是一個(gè)值得探索的理念?？上У氖?， ■十大网投正规信誉官网■十大网投靠谱平台 無法促使ChatGPT制定一個(gè)全球性的監(jiān)管制度來指導(dǎo) ■十大网投正规信誉官网■十大网投靠谱平台 如何將人工智能融入生活。法規(guī)最終適用于現(xiàn)在具有話語權(quán)的人類，只有 ■十大网投正规信誉官网■十大网投靠谱平台 才能確保人類和機(jī)器有一個(gè)安全和繁榮的未來。
作者：Harry Goldstein
關(guān)注微博
關(guān)注微信
關(guān)注公眾號
關(guān)注抖音號