美國、英國等多個國家的網(wǎng)絡(luò)安全機構(gòu)26日公布一份國際協(xié)議,一致認(rèn)定企業(yè)需要在設(shè)計和使用人工智能(AI)系統(tǒng)時確保消費者等廣大公眾的安全。
據(jù)路透社27日報道,這份協(xié)議共20頁,不具約束力,大多提出總體建議,包括監(jiān)控濫用AI系統(tǒng)現(xiàn)象,防止數(shù)據(jù)遭干預(yù),審核軟件供應(yīng)商資質(zhì)。
美國網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施安全局局長珍·伊斯特利說,多國認(rèn)同AI系統(tǒng)需要以安全為先具有重要意義,“設(shè)計階段最需關(guān)注的要務(wù)是安全”。
參與這份協(xié)議的機構(gòu)還來自加拿大、德國、法國、挪威、意大利、捷克、愛沙尼亞、波蘭、澳大利亞、新西蘭、智利、以色列、尼日利亞、日本、韓國和新加坡。
按照路透社的說法,協(xié)議并非旨在解決“恰當(dāng)使用AI、收集AI模型訓(xùn)練用數(shù)據(jù)”等棘手問題,主要針對的問題是確保AI技術(shù)不遭黑客劫持,以及建議企業(yè)在AI模型通過安全測試后再發(fā)布。
世界多國政府正介入AI發(fā)展。歐洲聯(lián)盟正制訂AI監(jiān)管法規(guī)。法國、德國和意大利近期就AI監(jiān)管達成一致,支持AI基礎(chǔ)模型“以行為準(zhǔn)則方式強制自我監(jiān)管”。美國政府有意敦促國會出臺AI監(jiān)管法規(guī)。白宮10月發(fā)布行政令,尋求降低AI對消費者等群體構(gòu)成的風(fēng)險,同時強化國家安全。