隨著CHATGPT火爆全球，聊天機器人(行情300024,診股)領(lǐng)域也興起了一波“越獄潮”。為更好應(yīng)對，ChatGPT所屬公司OpenAI周二表示，將向報告其人工智能系統(tǒng)漏洞的用戶提供最高達(dá)2萬美元的獎金。

OpenAI周二在一篇博客文章中寫道，公司與漏洞獎勵平臺Bugcrowd合作推出了一項漏洞獎勵計劃。人們可以通過該計劃報告他們在使用其人工智能產(chǎn)品時發(fā)現(xiàn)的弱點、漏洞或安全問題。

據(jù)悉，獎金的規(guī)模將取決于漏洞的嚴(yán)重性，起步獎勵200美元；最高2萬美元，要拿這個獎項需要漏洞尋找者有“不同尋常的發(fā)現(xiàn)”。

事實上，漏洞獎勵計劃在科技行業(yè)很常見，這可以用來鼓勵程序員和有道德的黑客報告他們軟件系統(tǒng)中的漏洞。例如，微軟就曾推出Windows漏洞獎勵計劃，最高獎勵25萬美元。為了清除Google Play商店中的漏洞，谷歌也推出過類似計劃，每個漏洞至少獎勵1000美元。

OpenAI表示，推出這一“懸賞”計劃的部分原因是，它認(rèn)為“透明度和協(xié)作”是發(fā)現(xiàn)其技術(shù)漏洞的關(guān)鍵。

OpenAI安全主管Matthew Knight在博文中寫道:“這一舉措是我們致力于開發(fā)安全先進(jìn)的人工智能的重要組成部分。當(dāng)我們創(chuàng)造安全、可靠和值得信賴的技術(shù)和服務(wù)時，我們希望得到你的幫助?！?/p>

近期，隨著人工智能展現(xiàn)出越來越多的用途，其安全性問題逐漸成為人們的關(guān)注焦點，與此同時，該領(lǐng)域的“越獄潮”也開始了。例如，華盛頓大學(xué)22歲的計算機科學(xué)系學(xué)生Alex Albert表示，他已經(jīng)創(chuàng)造了“越獄版”措辭復(fù)雜的人工智能提示。

據(jù)悉，這是繞過人工智能程序一系列內(nèi)置限制的一種方式，這些限制可以阻止聊天機器人出現(xiàn)有害舉動，例如教唆犯罪或支持仇恨言論。但這種“越獄版”AI聊天機器人卻能夠擺脫這些“枷鎖”。

因此，OpenAI發(fā)布這一計劃并不出人意料。該公司總裁兼聯(lián)合創(chuàng)始人Greg Brockman顯然早就注意到了這點。他最近在Twitter上轉(zhuǎn)發(fā)了Albert的一篇與越獄有關(guān)的帖子，并寫道，OpenAI正在“考慮啟動賞金計劃”來發(fā)現(xiàn)漏洞。