通用汽車（GM）第一季財報電話會議的焦點，除了先前提及的材料成本上升和政府關稅退款相關的業績指引調整外，執行長 Mary Barra 也宣布，約有九成的自動駕駛相關程式碼是由人工智慧（AI）編寫的。
通用汽車下一代的 Super Cruise 半自動駕駛技術，預計將比現有系統有重大升級。該功能預計於 2028 年搭載於更新版的 Cadillac Escalade IQ 上推出，屆時將從「放開雙手」進化到允許駕駛在高速公路上「放開視線」，前提是駕駛仍能接受車內攝影機的永久監控。
車輛還將配備獨特的外觀照明（如下圖），用以指示車輛是否正在自動駕駛，並配備升級的感測設備，採用新的 SDV 2.0（軟體定義汽車）運算架構。然而，由此產生的程式碼將極度依賴 AI。
CarScoops 引用 Barra 的話表示：「我們自動駕駛團隊編寫的程式碼，近九成是由 AI 生成。」她補充說：「我們建構這項技術的方式，反映了我們在整個企業中對 AI 的重視程度。」
雖然人工智慧已被證明能夠快速為各種應用程式編寫程式碼，但它也存在一些缺點。由於演算法的好壞取決於其訓練資料，因此產生的程式碼品質，僅能與通用汽車最初餵給系統的資料一樣好。其取捨是編碼速度大幅提升，但創新性卻不高。
2023 年的研究估計，專門從事編碼的公開 AI 平台（例如 ChatGPT、GitHub Copilot 或 Amazon Q Developer），其產生的正確程式碼的機率僅在 30% 到 60% 之間。同一時期進行的額外研究也指出，不到 3% 的開發者對 AI 編碼有高度信任。儘管有 39% 的人承認，只要能進行雙重檢查，他們信任 AI 編碼的程度足以有限度地使用它。
AI 生成程式碼的另一個擔憂是，它通常無法考慮到智慧財產權或網路安全等問題。由於人工智慧無法真正理解上下文，它經常會忽略超出原始提示範圍的重要面向。借用現有程式碼也會帶來其他問題。除了潛在的智慧財產權盜竊外，有時還會導致軟體臃腫，難以維護且容易出現錯誤。
考慮到 Super Cruise 是人們將性命託付於其上的技術，客戶期望汽車製造商提供最頂尖的程式碼似乎是合理的。
通用汽車試圖透過指出其能夠模擬一輩子的駕駛數據，來緩解人們的擔憂。這當然令人印象深刻，並且可能對錯誤測試有所幫助，但數位模擬終究不是現實。我們已經看到 Waymo，這家公司常被視為自動駕駛領域的領導者，在測試車輛遇到現實世界中的突發狀況時，經常陷入困境。
歸根結底，AI 已被證明是會犯錯的。那些與 AI 驅動的搜尋引擎互動過的人，無疑會注意到它們偶爾會編造資訊。但它是投資者眼中的新寵，因此公司熱衷於提及它們在任何可能的地方實施人工智慧。
顯然，控制自動駕駛系統的軟體出現故障的直接後果，將比 Grok 發布虛假的千層麵食譜嚴重得多。數位助理，已在現代汽車中變得普遍，也被證明不如廣告宣傳的那樣有效。因此，通用汽車擁有一支合格的團隊，負責雙重檢查 AI 產生的任何程式碼。同時，還有一支測試車隊一直在加州和密西根州運行 Super Cruise 的更新版本。
這家汽車製造商希望明確表示，它並非將控制權完全交給人工智慧。然而，感覺上公司仍在使用自己的客戶來 beta 測試最終結果，而這在汽車產業中我們已經經歷得夠多了。
對某些駕駛人來說，這不會有太大改變。軟體定義汽車、猖獗的數據收集、車內監控、觸控操作的常態化，以及透過「先進駕駛輔助系統」讓渡使用者控制權，這些都已經越過了可接受的界線。然而，仍有一部分駕駛人喜歡 Super Cruise 的概念，他們需要決定是否真正接受其由 AI 編碼的事實。