前言：在預測2023年的全球十大風險報告中，頂尖政經諮詢公司歐亞集團（Eurasia）便把生成式人工智慧可能帶來的破壞效應列為十大風險之一，還直接有點幽默意味的把這類軟體稱為大規模破壞性破壞性武器(weapons of mass destruction)。Miula本周的腦礦開挖特別直播也請到台灣網紅和軟體公司老闆林宜敬來對談生成式AI可能帶來的影響。
那麼創造出在台灣也造成轟動的ChatGPT和DALL-E (根據文字形容產生出相應影像的軟體)的OpenAI到底是哪邊冒出來的? 要如何減少這種將對對世界各方面產生影響的生成式AI (Generative AI)所引發的不良效果並讓使用者不會把從ChatGPT產生的內容和真人的產出混淆呢? 以上兩者就是本文的兩大重點。本文的內容是參考了法國世界報(Le Monde)的AI特集和金融時報的生成式AI長篇專題。兩篇報導的原文連結如下:
1)法國世界報: OpenAI: 創造ChatGPT的人腦子裡到底在想什麼?https://www.lemonde.fr/economie/article/2023/01/21/openai-dans-la-tete-des-createurs-de-chatgpt_6158745_3234.html?fbclid=IwAR3t-B3pkVwpJd5REvcvBXjMNNL4OR4PIAHTooM_Q65Iy-cMPi5OSsULuEM#xtor=AL-32280270-[default]-[android
2) 金融時報: 機器學習的新時代會怎麼影響你我?
https://www.ft.com/content/1e34f334-4e73-4677-9713-99f85eed7ba0?accessToken=zwAAAYYNYlpFkc8eNPM0TnNGd9OXE5n4Xu17oA.MEYCIQCMHK7qT9CeF7BFPSNXJ_tN7eoIpojwpe-IcxAvtst3lgIhALPGXrDRCJwCOgXQK34kUcjQCWvfLrCPJmOSfFAFeB_U&sharetype=gift&token=7890132e-5ed7-49e6-91ef-5dbd113e70d4
一、OpenAI緣起於一場矽谷Rosewood Hotel的飯局
軟體巨人微軟準備再投入100億美金到OpenAI這家公司，而這家公司目前的估值已達290億美金。在法國物理學家兼哲學家，也是法國數位倫理國家委員會成員的Alexei Grinbaum看來，ChatGPT是二十年來首見年輕的工程師發展出革命性的科技，上次應該是Larry Page和Sergey Brin有此成就。而OpenAI這家公的緣起可從2015年6月，在矽谷菁英很喜歡的Rosewood旅館的一場晚餐說起。
出席晚餐的頭號人物是特斯拉和SpaceX的老闆馬斯克，當時他已經對人工智慧的興起感到不安好一陣子。他曾在一則推文中說人工智慧有可能比核彈更危險。同席的還有馬斯克的過去創業夥伴－Peter Thiel，他曾投資Deepmind，一家人工智慧業界的明星公司，後來又賣給Google。其他的座上賓有當時Google年輕的明星工程師－Ilya Sutskever，他曾靠模仿大腦神經網路運作的軟體贏得大型資料庫ImageNet舉辦的關於影像識別的挑戰賽。
這場晚餐的發起人則是Sam Altman，知名創業孵化器Y Combinator的老闆。他和馬斯克、Thiel兩人對於討論人類未來各項議題很有興趣如如何延長壽命、基本收入和生存主義(一種應對突發事件如自然災害或是衝擊社會秩序災難的社會運動)等等。在場的還有Greg Brockman，他剛從自己創立的網路支付服務商Stripe辭職，他自己很坦白地承認他可不想在線上支付這行工作到自己的職涯終結為止。而這位哈佛輟學生的現在變成了OpenAI的總裁。
這些未來OpenAI的創辦人們有一個共同點：他們都屬於一個相信一般性人工智慧將會崛起的小圈圈－和當初創建DeepMind的人或是宇宙學家霍金一樣。根據Brockman的回想，這場晚餐的氣氛融合了希望和對相關風險的警覺。希望是指人們有可能製造出能夠解決人類遇到瓶頸的問題如氣候變遷、治癒所有疾病或是提供普遍性的教育機會。總之在Brockman看來就是如何能創造出這種新科技又能確保其益處平等分配並限制其風險。
這個充斥者矛盾的挑戰便成了OpenAI的座右銘。而Brockman充滿矽谷特色的救世精神和技術狂人特質又因為該公司做的選擇得到強化：該公司把自己定位成非營利組織讓它得以在Open Source上分享研究成果，以避免Google、臉書或是其他有惡意的玩家壟斷了人工智慧。Brockman覺得幾年前講到人工智慧還是個很聳動的詞語，今天聽到這個詞比較不像聽到純空想的科幻小說。
今天已經有300多人的OpenAI便是在這場晚宴後不久正式開跑成立，地點就在Brockman的公寓，最初有十多個工程師，有五個是從Google辭職加入的。很快公司搬到了舊金山的一棟小房屋裡面，當時是和馬斯克的Neurallink－他的人腦∕機器互動介面計畫－共用這棟建築。公司的小團隊致力於開發出訓練人工智慧的系統，還有一個引導機器手臂拚好魔術方塊的程式。包括Peter Thiel在內公司的創辦人承諾要投入十億美元的資金。不過當時OpenAI有些想進行的項目很瘋狂：有研究人員在想是否能把人性價值注入到人工智慧中，這樣人工智慧才不會將來攻擊地球上的居民。
但OpenAI的公眾形象在2019年有了劇烈變化。馬斯克在2018年因為利益衝突的緣故退出：他的特斯拉公司挖角OpenAI的工程師。但根據Brockman的說法雙方關係還是很好。當時的首席執行官Sam Altman接者決定成立一個以營利為目的的子公司，接受微軟10億美元的注資並檢討將其語言訓練模型GPT-2公開分享的模式。
但此舉在舊金山的柏克萊與人類相容AI中心的Mark Nitzberg看來就是背棄其理想主義，他認為這個決定證明了之前的疑慮：一個慈善性質的組織無法創造出有如此大價值的科技。Brockman對此做出的解釋是怕GPT-2會被拿去誤用製造出假訊息，還有他們發現需要花費數十億美元在訓練其軟體的超級電腦上。
而在微軟獨家的超級強力計算機的幫助下，在2020 年問世的GPT-3是個突破。內建了1750億個參數，GPT-3的規模前所未有還具備一些出乎意料的性質：其建立的模型能進行計算、寫電腦程式、翻譯和回答問題等。微軟緊接者把GPT-3、ChatGPT(衍生自GPT-3)還有DALL-E整合進其提供給企業的雲端服務中。然後微軟還對各種軟體如Word、PowerPoint、Outlook或是Teams以及搜尋引擎Bing做出改進，希望能和Google較量。
為了要達到這目的，微軟還會投入100億美金到OpenAI中。作為回報，微軟會獲得將來收益的75﹪直到回收其投資額為止。對此Brockman沒有加以證實，但保證非營利的組織架構會持續維持獨立並控制其子公司。在該公司的管理委員會中，目標是在營利的成員也會是少數。
OpenAI計畫中的營利模式是把軟體的授權賣給企業，每次利用軟體搜尋都會收取些微的費用。在語言學習的平台Duolingo上，使用者可以運用GPT-3來改正文法錯誤或是試驗性的內容。但營利是條漫漫長路：OpenAI預期到2024年才會有十億美元的收入。
二、生成式人工智慧的第一大問題：可靠性
但一旦要轉向商業化的路，OpenAI就會看到更多其程序的問題冒出來。對一些人而言，OpenAI真正的特色不在於其技術出眾而在於其軟體是對公眾開放的。Google在2017就發明出Transformer，一種類似於GPT-3的語言模型所依賴的技術，還擁有類似於DALL-E和ChatGPT的軟體，但這些都出於會給Google帶來商譽上的風險而不開放公眾使用。事實上，這些程序都會犯下事實層面的錯誤，並從其從網上抓來的訓練資料庫中重現有關種族或性別主義刻板印象的內容。
更嚴重的是，人工智慧可被刻意用來製造一大堆假訊息，還可能把一堆工作變成自動化，讓不只是創意性質的工作都因此被淘汰。
