Brockman 堅(jiān)持表示 OpenAI 不會(huì)給姐妹公司提供特別的待遇，OpenAI 是一家研究機(jī)構(gòu)，而并非是咨詢公司。然而當(dāng)面臨外來(lái)壓力時(shí)，Brockman 也承認(rèn) OpenAI 的理想主義愿景是有它的局限性的。OpenAI 可能不會(huì)將自己的所有研究成果都公開(kāi)，盡管它的目標(biāo)是最終分享大部分的研究成果，可能通過(guò)發(fā)表研究論文的形式公開(kāi)，也可能直接在網(wǎng)絡(luò)上公開(kāi)。Brockman 表示：“所有研究都公開(kāi)進(jìn)行不是最好的研究方式。你首先需要孕育想法，看它的發(fā)展方向，等時(shí)機(jī)成熟后再發(fā)表。我們會(huì)編寫很多開(kāi)源代碼，但依然還有很多我們沒(méi)做好準(zhǔn)備去公開(kāi)的東西。”

Sutskever 和 Brockman 還表示，OpenAI 未來(lái)可能會(huì)為一些自己的研究成果申請(qǐng)專利。“我們?cè)诙唐趦?nèi)不會(huì)申請(qǐng)任何專利，但未來(lái)如果我們發(fā)現(xiàn)這么做對(duì)世界最有利的時(shí)候，我們就會(huì)改變策略。”

人工超級(jí)智能可能會(huì)引發(fā)的問(wèn)題

當(dāng) Musk 和 Altman 發(fā)布 OpenAI 的時(shí)候，他們將這個(gè)項(xiàng)目描述成一種能夠抵消邪惡的人工超級(jí)智能可能帶來(lái)的威脅的方式。當(dāng)然，人工超級(jí)智能可能會(huì)源于 OpenAI 創(chuàng)造的技術(shù)，但是他們堅(jiān)持認(rèn)為，因?yàn)?OpenAI 開(kāi)發(fā)的技術(shù)是所有人都可以用的，這就能減輕超級(jí)智能可能會(huì)帶來(lái)的威脅。“我們認(rèn)為未來(lái)更有可能出現(xiàn)的情景是很多人工智能一起努力去阻止偶然出現(xiàn)的有威脅性的惡意人工智能。” Altman 如是說(shuō)。

但并非所有人都贊同這一觀點(diǎn)。就像 Musk 一樣，牛津大學(xué)的哲學(xué)家 Nick Bostrom 就對(duì) AI 的危險(xiǎn)發(fā)出過(guò)警告。Bostrom 認(rèn)為，如果毫無(wú)限制地分享人工智能的研究成果的話，在沒(méi)能確保安全的情況下，一些不懷好意的人可能就會(huì)利用它干壞事。斯特羅姆稱：“如果你有一個(gè)按鈕，只要按一下就能夠?qū)κ澜缭斐善茐模憧隙ú幌Ｍ總€(gè)人都擁有一個(gè)這樣按鈕。” 而從另一方面看，如果 OpenAI 為避免人工智能被壞人所用而選擇不公開(kāi)自己的研究成果的話，那么 OpenAI 和 Google、Facebook 還有區(qū)別嗎？

不過(guò) Bostrom 表示，OpenAI 的非盈利的性質(zhì)可能會(huì)改變一些事情。這個(gè)項(xiàng)目的真正力量是能夠監(jiān)督 Google、Facebook 這些公司，它能減少人工超級(jí)超級(jí)智能被壟斷的可能性。。

OpenAI 就像當(dāng)初施樂(lè)帕克研究中心一樣

在今年1月 的月初，9 位人工智能研究人員來(lái)到 Brockman 的住所開(kāi)會(huì)。因?yàn)檫@是一個(gè)全新的項(xiàng)目，所以他們當(dāng)時(shí)連一塊開(kāi)會(huì)用的白板都沒(méi)有，他們那天臨時(shí)買了一些白板，然后就開(kāi)始工作了。

Brockman 說(shuō) OpenAI 的工作需要從探索增強(qiáng)學(xué)習(xí)開(kāi)始，增強(qiáng)學(xué)習(xí)就是機(jī)器通過(guò)一次又一次地重復(fù)任務(wù)然后追蹤那種方法是完成任務(wù)的最好方法。另外一個(gè)主要目標(biāo)是 “無(wú)監(jiān)督學(xué)習(xí)”，也就是打造在不需要人類的指導(dǎo)下就能自行學(xué)習(xí)的機(jī)器。今天，深度學(xué)習(xí)是由認(rèn)真標(biāo)注的數(shù)據(jù)驅(qū)動(dòng)的。如果你想教會(huì)神經(jīng)網(wǎng)絡(luò)識(shí)別貓的圖片，你必須在里面添加一定量的貼有貓的標(biāo)簽的圖片。它的這種學(xué)習(xí)過(guò)程在人類標(biāo)簽員的監(jiān)督下進(jìn)行的。和很多其他的研究人員一樣，OpenAI 的目標(biāo)是開(kāi)發(fā)一個(gè)不需要小心地貼標(biāo)簽數(shù)據(jù)就能自動(dòng)學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)。“如果你有非常好的非監(jiān)督學(xué)習(xí)技術(shù)，機(jī)器就可以從互聯(lián)網(wǎng)上學(xué)習(xí)所有知識(shí)，就像人類可以通過(guò)閱讀學(xué)習(xí)一樣。” Brockman 如是說(shuō)。

Brockma 將 OpenAI 看作是施樂(lè)帕克研究中心的化身，施樂(lè)帕克研究中心在 20 世紀(jì) 70 年代是它最輝煌的時(shí)候。帕克研究中心的研究成果是開(kāi)放的，它推動(dòng)了圖形用戶界面、激光印刷機(jī)和面向?qū)ο缶幊痰恼Q生，Brockman 和他的團(tuán)隊(duì)探索的是更深層的東西，甚至包括一些我們之前認(rèn)為是科幻的東西。帕克研究中心雖然是施樂(lè)的，但它的研究成果讓很多公司都能從中受益，蘋果公司是最大受益者之一。在 OpenAI，Brockman 希望每一個(gè)人了解 OpenAI 的研究成果。

轉(zhuǎn)載請(qǐng)注明：北緯40° » OpenAI：馬斯克解放人工智能的瘋狂計(jì)劃