導演Valerie Veatch和許多人一樣，對OpenAI於2024年首次公開發布的Sora文字轉影片生成式AI模型感到好奇。雖然她並不完全理解這項技術，但她想知道它能做什麼，並看到其他藝術家在網路上建立社群分享他們的新AI創作。希望與人連結的渴望讓Veatch踏入AI領域，但她很快震驚於這項技術經常生成充滿種族歧視和性別歧視的影像。
Veatch更感不安的是，她的新AI愛好者同儕似乎不在意這台機器在沒有明確指令下，竟會產出充滿仇恨與偏見的內容。這種怪異的情況讓Veatch遠離早期的生成式AI實驗，但也激發她製作紀錄片《Ghost in the Machine》，探討奠基生成式AI存在的技術與思想流派。
《Ghost in the Machine》並未聚焦於生成式AI加速主義者所宣稱的社會潛在利益，而是透過技術歷史來解釋它現今的運作方式。Veatch在接受採訪時表示，她希望記錄生成式AI的起源，讓人們清楚看到我們正經歷的產業炒作循環。但首先，她必須突破AI公司刻意模糊整個概念的障礙。
Veatch在視訊通話中說：「為了使用‘人工智慧’這個詞，我們必須知道這詞到底是什麼意思。事實上，它根本毫無意義；這是一個行銷用語，從一開始就是。這是一個完全誤導且愚蠢的詞彙，卻已經擁有自己的文化意涵，我認為清楚理解我們使用的詞彙及其意義至關重要。」
紀錄片反覆強調，「人工智慧」一詞最初由電腦科學家John McCarthy於1956年創造，當時他試圖為自己的專案爭取更多資金。但影片指出，這個詞的誕生只是時間軸上的一個重要節點，真正的起點可追溯到維多利亞時代的英國優生學誕生。Francis Galton不僅是查爾斯·達爾文的表親，也是優生學的創始人——這是一種種族主義且已被否定的信念，認為人類可以透過系統性消除「劣等」（意指非白人）種族來改良。
Veatch在訪談中解釋，雖然Galton確實對學術有所貢獻，但不能忽視他根深蒂固的白人至上主義信念如何影響當時的社會科學。Galton和他的優生學徒弟Karl Pearson雖未直接參與早期計算機的開發，但Galton在多維度建模上的基礎工作——他用此技術衡量非洲與歐洲女性的吸引力——影響了Pearson開發統計工具如邏輯迴歸，這是現代機器學習的基本組成部分之一。
Galton和Pearson幫助將不同種族在可量化方面的根本差異正常化。這種種族主義思維導致他們相信人類智力可被測量，且人腦運作類似機器。Veatch指出，這一跳躍在向公眾推銷人工智慧這一奇幻概念中扮演了重要角色。
Veatch說：「當我作為紀錄片導演或記者深入探討超智慧問題時，令人驚訝的是，很快就會撞上種族科學的低門檻，因為這技術中充滿了優生學思維。」
《Ghost in the Machine》並未試圖駁斥生成式AI模型因訓練資料帶有仇恨意識形態而產生偏見（俗稱「垃圾進垃圾出」），而是透過歷史分析解釋為何建構這項技術的公司似乎對當前問題漠不關心。這段歷史脈絡幫助Veatch理解她自己早期使用Sora時遇到的困擾。她回憶，在一個藝術家Slack群組中，一位有色人種女性成員開始表達對模型每次根據她照片生成影像時都將她「白化」的擔憂。
Veatch說：「模型保留了她的辮子和服裝，但她被生成在一個藝術畫廊裡，而程式理解那是‘白人空間’。我當時的反應是‘這到底是怎麼回事’，我試著向群組解釋這其實是軟體本身的問題。」但群組中沒有人回應她的貼文。「這個Slack平常每篇貼文都會有數十個尖叫考拉表情反應，但這次完全沒有。」
Veatch主動聯絡OpenAI，告知公司她看到的輸出結果多麼種族歧視、性別歧視和厭女症——例如女性在生成兩輪場景後會長出多餘乳房並開始扭臀。她原以為OpenAI會視此為嚴重錯誤並修正，以鼓勵更多人使用Sora，結果公司卻置之不理。
Veatch回憶：「他們的回應基本上是，‘提出這種問題很尷尬，我們無法改變。’」
這件事激起Veatch深入了解為何多種生成式智慧總是表現出醜陋且麻煩的行為。起初，她不認為與技術白皮書作者Zoom通話能成為引人入勝的紀錄片素材，但隨著她看到從Galton優生學統計工作到現代生成式AI公司的清晰脈絡，她的想法改變了。
《Ghost in the Machine》中的訪談對象包括AI研究者、歷史學家和批判理論家，他們有力論證AI領域的各個面向深受建立於歧視性世界觀的科學領域影響。當我問Veatch是否曾想直接與紀錄片批評的公司高層對話時，她笑了。她說，要取得那種訪問權，必須經過各種意識形態的妥協，這會讓她的影片成為生成式AI傷害的共犯。
Veatch說：「他們不會信任任何人，這很合理，我當然也不希望他們信任我。我不想讓他們出現在片中，他們已經對媒體說得夠多了。我要在鏡頭前擁抱Sam Altman嗎？那樣的影片還能真實反映這技術嗎？那是宣傳。」
《Ghost in the Machine》將於3月26日至28日在Kinema平台上線，並預計今年秋季在PBS播出。