財(cái)聯(lián)社8月29日訊（編輯 黃君芝）據(jù)報(bào)道，美國加利福尼亞州議會(huì)周三（28日）通過了一項(xiàng)備受爭(zhēng)議的人工智能（AI）安全法案，該法案要求相關(guān)公司確保他們的技術(shù)不會(huì)造成重大傷害。當(dāng)天，州議會(huì)以41票贊成、9票反對(duì)的結(jié)果通過了這項(xiàng)立法。

這也代表著，這項(xiàng)名為SB 1047的法案終于要塵埃落定了。現(xiàn)在，該法案將回到州參議院進(jìn)行確認(rèn)投票和可能的修正案，然后提交給州長紐森（Gavin Newsom）。他必須在9月30日之前決定是否簽署該法案或否決它。

何為SB 1047？

“SB 1047法案”，全稱“前沿人工智能模型安全創(chuàng)新法案”。該法案于今年2月被提交給加州議會(huì)，引起很大爭(zhēng)議。8月19日，加州立法機(jī)構(gòu)公布了法案修訂版。

SB 1047法案旨在為訓(xùn)練成本超過1億美元或者達(dá)到一定算力的開發(fā)者制定安全標(biāo)準(zhǔn)，確保大規(guī)模人工智能模型的安全開發(fā)。該法案要求大型前沿人工智能模型的開發(fā)者采取預(yù)防措施，例如部署前測(cè)試、模擬黑客攻擊、安裝網(wǎng)絡(luò)安全保障，以及為舉報(bào)人提供保護(hù)等。

這是為了確保他們的技術(shù)不會(huì)造成“嚴(yán)重傷害”，比如大規(guī)模人員傷亡或5億美元以上的財(cái)產(chǎn)損失。另外，在該州運(yùn)營的人工智能軟件開發(fā)商還需要概述在人工智能模型出現(xiàn)問題時(shí)關(guān)閉它們的方法，這實(shí)際上是一個(gè)“強(qiáng)行終止開關(guān)”。

此外，該法案還賦予州檢察長在開發(fā)商不遵守規(guī)定時(shí)提起訴訟的權(quán)力，特別是在出現(xiàn)持續(xù)威脅的情況下，例如人工智能接管電網(wǎng)等政府系統(tǒng)；該法案還要求開發(fā)商聘請(qǐng)第三方審計(jì)師來評(píng)估他們的安全實(shí)踐，并為舉報(bào)人工智能濫用行為的舉報(bào)人提供額外保護(hù)。

引發(fā)爭(zhēng)議

在過去的幾個(gè)月里，該法案遭到了許多主要科技領(lǐng)袖、初創(chuàng)公司和風(fēng)險(xiǎn)投資家的強(qiáng)烈反對(duì)。他們表示，這代表著政府對(duì)一項(xiàng)仍處于起步階段的技術(shù)的過度關(guān)注，可能會(huì)扼殺該州的科技創(chuàng)新。上周，OpenAI公開表示反對(duì)該法案，認(rèn)為這樣的政策應(yīng)該在聯(lián)邦而不是州一級(jí)實(shí)施。

包括前眾議院議長南希·佩洛西（Nancy Pelosi）、美國眾議員Ro Khanna、舊金山市長London Breed等政界人士也對(duì)該法案表示反對(duì)，這與科技行業(yè)的擔(dān)憂相呼應(yīng)，即該法案可能會(huì)阻礙加州在人工智能創(chuàng)新方面的領(lǐng)導(dǎo)地位。

但在投票前的最后階段，該法案也贏得了人工智能領(lǐng)域一些主要企業(yè)的支持。周二，埃隆·馬斯克出人意料地表達(dá)了他的支持，盡管他說這是一個(gè)“艱難的決定，會(huì)讓一些人感到不安”。

OpenAI的競(jìng)爭(zhēng)對(duì)手Anthropic也謹(jǐn)慎地對(duì)該法案表達(dá)了支持。上周，該公司表示“收益可能大于成本”，并且它可以切實(shí)實(shí)施這些條款。在Wiener實(shí)施了該公司建議的幾項(xiàng)修正后，Anthropic變得更加支持這項(xiàng)立法。

發(fā)起人“辯護(hù)”

SB 1047法案發(fā)起人、美國民主黨參議員Scott Wiener稱，認(rèn)為，人工智能安全與創(chuàng)新并不互斥，該法案的修訂版已經(jīng)解決了此前一些批評(píng)者的擔(dān)憂。

Wiener在一份最新聲明中說：“創(chuàng)新和安全可以齊頭并進(jìn)——加州正在引領(lǐng)這一潮流。通過這次投票，大會(huì)邁出了真正具有歷史意義的一步，積極努力，確保一項(xiàng)令人興奮的新技術(shù)在發(fā)展過程中保護(hù)公眾利益。”

他還稱該法案是一項(xiàng)“溫和的常識(shí)性措施”，將許多大公司已經(jīng)做出的安全承諾寫入法律。

Wiener還針對(duì)批評(píng)人士為該法案進(jìn)行了辯護(hù)，強(qiáng)調(diào)其條款僅適用于成本超過1億美元的大型模型訓(xùn)練公司或1000萬美元微調(diào)模型的公司，這將豁免大多數(shù)較小的初創(chuàng)公司。

這位議員還表示，雖然他會(huì)支持聯(lián)邦立法，但國會(huì)在監(jiān)管科技方面一直行動(dòng)遲緩，在缺乏國家行動(dòng)的情況下，他認(rèn)為加州有責(zé)任發(fā)揮領(lǐng)導(dǎo)作用。