AI寫程式真的能取代你？天才駭客喬治霍茲親測6個月：研究概念可以，完整發展細節暗藏危險！

根據外媒報導，知名駭客、自動駕駛技術公司 Comma.ai 創辦人，素有「神奇小子」（geohot）之稱的喬治·霍茲（George Hotz）發表了一篇專文。他在文章中指出在當代軟體開發的過程中，過度依賴 AI 程式開發代理（AI Programming Agents）可能會成為科技界付出最高昂代價的錯誤之一。

六個月的深度測試：適合原型，但不擅長細節

喬治·霍茲以其在 1989 年 10 月出生、早期成功破解 iPhone 與 PlayStation 3 而聞名於世，作為一名世界頂尖的安全研究員與創業家，他始終以技術極客的形象活躍於程式設計與人工智慧領域。

霍茲在文中透露，他花費了整整 6 個月的時間，親自測試了市面上多種主流的 AI 模型與開發工具，並結合了他目前在 tinygrad 專案上的相關工作經驗。他的最終結論是：這些 AI 開發工具在「快速建立原型（Rapid Prototyping）」方面確實表現優異，但它們並不擅長處理那些真正決定軟體品質與穩定性的核心細節。

霍茲在文章中表達了對大型企業與開發團隊過度依賴 AI 工具的深切擔憂。他明確指出，AI 模型的確能夠以極快的速度生成大量程式碼，而且這些生成的程式碼在「表面上」看起來越來越像樣、越來越具備專業水準。然而，這正是最危險的地方：程式碼中的潛在問題與邏輯漏洞變得更加難以被人類開發者識別。

霍茲認為，對於那些技術能力較弱或是經驗不足的開發者來說，他們很難一眼看穿 AI 生成程式碼中的深層缺陷。這會導致一個嚴重的後果：開發者可能會在不知不覺中，將這些充滿隱患的程式碼直接帶入正式的生產系統中（Production System）。隨著時間的推移，這將累積出極為高昂的後續維護成本，並埋下難以察覺的系統故障風險，也就是所謂的「技術債」。

從樂觀轉向懷疑：LLM 並不具備真正的智慧

在對人工智慧技術的判斷上，霍茲坦言自己的態度已經從早期的「樂觀期待」轉變為如今的「高度懷疑」。

他目前的觀點更傾向於與 AI 大老楊立昆（Yann LeCun）以及知名學者蓋瑞·馬庫斯（Gary Marcus）站在同一陣線，也就是認為：大型語言模型（LLM）並不真正具備我們所定義的「智慧」。

霍茲深入剖析指出，這類 AI 模型的本質，其實只是一個極度複雜的「統計系統」。它們的主要運作邏輯與任務，是去「模仿」人類程式設計的分佈機率，而不是真正從根本上「理解」眼前所要解決的問題。正因為如此，這些 AI 能夠完美地模仿出漂亮程式碼的「外形與結構」，但一旦遇到陌生、複雜或是缺乏訓練資料的全新情境，它們未必能夠穩定地完成深度的邏輯推理與自主修正。

有趣的是，業界對於 AI 開發工具的看法並非一面倒。與霍茲的悲觀懷疑相反，另一位 AI 領域的知名專家安德烈·卡帕西（Andrej Karpathy）近期的態度卻明顯轉向積極。

卡帕西曾在 2025 年秋天公開表示，當時的AI Agent系統仍然不可靠；但在經歷了新一代模型（如 GPT-5.4 和 Opus 4.6）的發布後，他改變了說法，宣稱 AI 「已經永久地改變了人類編寫程式的方式」。這也突顯了目前科技界對於 AI 輔助開發的潛力與風險，仍存在著激烈的辯論與分歧。