以下文字轉載自:呂冠緯個人臉書分享 (均一平台教育基金會董事長 兼 執行長)
探索 OpenAI 技術的幕後推手
最近在一個訪談中看到 LinkedIn 創辦人 Reid Hoffman 訪談 Stanford 知名 AI 教授李飛飛。同場的另外一位受訪者,經過介紹才知道,這位 35 歲、阿爾巴尼亞裔的美國人是 OpenAI 的技術長(CTO)Mira Murati.
探索 AI 領域中的 3H 法則
什麼是 3H 法則,是以下三個 H 開頭的法則:
- Honest:AI 目前還很容易給出一些不正確的資訊,但不斷在改善中。這種不誠實的狀況他們稱為 Hallucination(幻想),也就是 AI 並不知道自己不誠實,但是很認真的把這誠實的東西講出來。由於講得很真誠,容易讓人相信,因此是一個需要解決的議題。
- Harmless:這非常重要,也跟醫療的原則一樣。談積極協助之前,至少消極面,不應該更多產生傷害。所以色情、暴力、仇恨等 AI 都要防止。Mira 在訪談中有分享,他們甚至需要去研究「極權主義的領導人會怎麼運用 GPT」進而去產生必要的防範。
- Helpful:在誠實跟不傷害有基礎保底後,接下來若能真的幫助到人類不同面向,當然就更有價值。我想最近 ChatGPT 、微軟 Copilot 大概都可以讓大家感覺到相關的可能性。
Mira 的經歷也滿有趣的,除了是長春藤聯盟名校之一 Dartmouth College 的機械工程畢業外,他的工作經歷有 Goldman Sachs 以及是 Tesla Model X 的資深產品經理。
她在 30 歲時加入 OpenAI 擔任副總,去年成為 CTO。在一篇報導裡,我看見有這樣背景的人主導技術進展,其實是滿欣慰的。 - 她在影響人們如何與新技術互動方面有著悠久的歷史
- 她是公開測試的主要倡導者之一
- 她支持對人工智能進行監管
- 她專注於人類將如何與人工智能互動
- 她希望下一代 GPT 引起的熱潮減少
或許 GPT 的熱潮會減少,但我相信常態化使用只會更多,同時我也相信 Mira 會在 OpenAI 創辦人 Sam Altman 之外,成為另外一個 OpenAI 的指標性人物,也是女性企業家、科技人,甚至是移民家庭的表率。
作者 | 呂冠緯 (均一平台教育基金會董事長兼執行長)
編輯 | 何湘翎