生成式 AI 時代的程式設計：當意圖不再是唯一

核心概念

生成式 AI 並非中立的意圖載體，它在簡化程式設計的同時，也可能導致創作趨同，阻礙多元思考，因此培養主動形成意圖的能力至關重要。

摘要

生成式 AI 時代的程式設計：當意圖不再是唯一

本文探討了生成式 AI 對程式設計的影響，特別關注其對程式設計意圖的影響。

生成式 AI 的承諾與問題

生成式 AI 承諾讓程式設計變得更簡單，人們只需表達意圖，AI 就會完成剩下的工作。然而，這種「意圖至上」的觀點存在兩個根本問題：

1. 它假設生成式 AI 不會干擾意圖。
2. 它認為意圖很容易形成。

機械化趨同：AI 對意圖的同質化效應

大量研究表明，生成式 AI 具有「機械化趨同」效應，會導致創作輸出趨於一致，降低思想多樣性。

• 預測文本會鼓勵可預測的寫作，減少文本和程式碼中的識別碼名稱的多樣性。
• 使用生成式 AI 輔助寫作會降低內容的多樣性，參與者產生的故事與實驗條件下其他故事的平均水平相似。
• 使用 ChatGPT 的策略顧問產生的想法，其概念變異性低於未使用 ChatGPT 的顧問。
• 大型語言模型對創意構思具有「同質化效應」，使用 ChatGPT 的參與者產生的語義差異較小的想法。
• 基於生成式 AI 的對話式搜尋，與傳統搜尋相比，會增加選擇性曝光，加劇資訊查詢的偏差。
• 與「觀點鮮明」的語言模型共同寫作會影響參與者在寫作中表達的觀點，甚至改變他們在隨後的態度調查中衡量的觀點。

機械化趨同是 AI 的政治和訊息，它可能導致一種「停滯」的文化，這種文化只會重複和複製現有的想法，而不是培養新的想法。

意圖的來源：限制、物質性和阻力

為了應對機械化趨同的挑戰，我們需要培養主動形成意圖的能力。創造力的研究表明，限制、物質性和阻力在塑造和促進創造力方面發揮著至關重要的作用。

• 工匠在創作過程中必須考慮材料的特性和阻力，這些阻力並非阻礙，而是促進意圖實現的因素。
• 探索性程式設計和互動式機器學習，都是目標不明確的程式設計活動，程式設計師的目標是通過與材料和阻力的互動來發現或創造意圖。

存在主義對意圖的看法

存在主義哲學認為，人生沒有任何內在目的，個體必須通過自己的行動來塑造自己的本質或身份。

• 「存在先於本質」，個體必須在一個沒有內在意義的世界中創造自己的意義。
• 「真實性」是存在主義意圖的一種表達，它追求按照自己真實的自我和價值觀生活，而不是順從社會規範。
• 面對虛無，存在主義者建議擁抱自由，真實地生活，接受荒謬，直面焦慮，並通過與世界的互動來尋找意義。

對意圖性程式設計的構想

生成式 AI 的出現，讓軟體生產的行為經濟學發生了變化，訂製軟體的生產成本大幅降低，程式設計師可以從繁重的程式碼編寫工作中解放出來，更加關注意圖的形成。

• 意圖性程式碼隱修：程式設計師遠離標準工作方式，參與意圖性程式碼隱修，在沒有 AI 工具輔助的情況下重新審視程式碼的藝術，探索和重申個人程式設計風格和問題解決方法。
• AI 作為靈感來源：AI 可以提出不尋常、矛盾或不正確的演算法方法，程式設計師可以利用個人洞察力和專業知識對其進行改進和轉化。
• 伴隨反思的程式設計：程式設計環境可以加入提示或問題，激勵程式設計師深入思考程式碼的目的和潛在影響。
• 限制性程式設計：可以為程式設計專案引入故意的限制，就像限制性寫作一樣，通過限制某些資源或設定獨特的挑戰，程式設計師可以激發創造力，並創造出具有意圖性的解決方案。
• 偏離練習：在專業程式設計師的教育中，可以設計一些練習，要求他們有意偏離既定模式，通過練習精確地打破標準解決方案的技能，程式設計師可以更容易地獲得形成獨特意圖和探索新路徑的意識和願望。
• 意圖性指標：工具可以顯示評估創作過程中人類意圖程度的指標，讓機械化趨同的無形影響變得可視化，鼓勵使用者更深入地參與到工作中，並做出有意識、深思熟慮的個人選擇。
• 參與式 AI 產物：AI 可以故意留下未完成的產物，需要人類參與才能完成，例如，一個參與式工具可以生成網頁設計的輪廓，但將顏色方案和排版方面的決定權留給使用者。

結語

生成式 AI 時代，程式設計必須超越單純的程式碼規範，轉向主動培養意圖。存在主義哲學提供了一個積極的、規範性的框架，幫助我們將人類意圖的形成理解為一個應該被視為 deeply personal、ethically charged 和 fundamentally free 的過程。它教會我們，作為人類，我們要不斷地參與到成為自己的過程中。畢竟，程式設計師不是天生的，而是後天造就的。

統計資料

一項針對 293 名參與者的研究發現，接觸生成式 AI「想法」會降低內容的多樣性。
一項針對 758 名 BCG 策略顧問的研究發現，使用 ChatGPT 會減少產生的想法的範圍。
一項針對 115 名參與者的研究發現，與傳統搜尋相比，基於生成式 AI 的對話式搜尋會增加選擇性曝光。
一項針對 1506 名參與者的研究發現，與「觀點鮮明」的語言模型共同寫作會影響參與者在寫作中表達的觀點，甚至改變他們在隨後的態度調查中衡量的觀點。

引述

「程式設計的障礙（使用生成式 AI）已經非常低了。我們已經消除了數位鴻溝。現在人人都可以是程式設計師——你只需要對電腦說點什麼就行了。」——黃仁勳，2023
「到目前為止，要創造軟體，你必須是一名專業的軟體開發人員。你必須理解、說和解釋我們稱之為程式碼的機器的極其複雜、有時甚至是荒謬的語言。[...但有了生成式 AI]我們在人類和機器的語言之間實現了新的融合。有了 Copilot，任何人都可以用任何人類語言，通過一個簡單的書面提示來構建軟體。[...]展望未來，每個人，無論他們說什麼語言，都將擁有說機器語言的能力。任何人類語言現在都是你開始電腦程式設計所需的唯一技能。」——Thomas Dohmke，2024
「自從 2023 年 GPT-4 推出以來，僅憑藉簡單的自然語言需求就能生成整個應用程式，這已經成為一個活躍的研究領域。[...]我們的願景是，到 2030 年，終端使用者將僅憑藉自然語言需求就能構建和部署整個應用程式。」——Robinson 等人，2024
「程式設計將會過時。[...]傳統的「編寫程式」的概念正在走向消亡[...]未來的所有程式最終都將由 AI 編寫，而人類最多只能扮演監督的角色。[...]未來的工程師只需敲擊幾下鍵盤，就能啟動一個已經編碼了人類全部知識（甚至更多）的四百萬億參數模型的實例，準備好接受機器所需的任何任務。」——Welsh，2022

從以下內容提煉的關鍵洞見

Intention Is All You Need

by Advait Sarka... 於 arxiv.org 10-25-2024

https://arxiv.org/pdf/2410.18851.pdf

深入探究

如果機械化趨同是一種更廣泛的自動化趨勢，那麼我們如何在其他領域，例如藝術或音樂創作中，應對這種趨勢？

機械化趨同確實可能對藝術和音樂創作構成挑戰，因為過度依賴 AI 工具可能會導致作品趨於單一和缺乏原創性。然而，我們可以採取一些策略來應對這個問題：

**強調人類體驗和情感：**藝術和音樂的核心價值在於傳達人類獨特的情感、經驗和觀點。我們應該鼓勵藝術家和音樂家深入探索自身經歷，並將其作為創作的源泉，而非過度依賴 AI 的建議。
將 AI 作為激發靈感的工具，而非替代品： AI 可以生成各種創意素材，例如旋律、和聲、圖像和文字，藝術家可以將其作為靈感來源，並在其基礎上進行再創作，注入個人風格和情感。
探索 AI 未觸及的領域： 藝術和音樂的發展一直在不斷突破既有邊界。我們應該鼓勵藝術家和音樂家探索 AI 尚未涉足的領域，例如新的藝術形式、音樂風格和表現手法，以保持創作的多樣性。
培養批判性思維和審美判斷力： 在 AI 時代，培養批判性思維和審美判斷力至關重要。我們需要學習如何辨別 AI 生成作品的優劣，並在創作過程中保持獨立思考和判斷。
總之，我們應該將 AI 視為一種輔助工具，而非取代人類創造力的威脅。通過強調人類獨特的價值觀和創造力，並積極探索 AI 未觸及的領域，我們可以應對機械化趨同的挑戰，並利用 AI 的力量來推動藝術和音樂的發展。

我們是否可以將生成式 AI 視為一種促進創造力的工具，而不是威脅？是否存在一些方法可以利用 AI 的力量來增強人類的創造力，同時避免機械化趨同的陷阱？

是的，生成式 AI 絕對可以被視為促進創造力的工具，而非威脅。關鍵在於如何使用它。以下是一些利用 AI 增強人類創造力，同時避免機械化趨同陷阱的方法：

將 AI 作為創意夥伴： 不要將 AI 視為單純的工具，而是將其視為一個可以共同創作的夥伴。嘗試與 AI 進行互動，探索不同的可能性，並從中獲得新的靈感。
利用 AI 突破創作瓶頸： 當你遇到創作瓶頸時，可以嘗試使用 AI 生成一些素材或想法，幫助你跳脫固有思維模式，打開新的思路。
專注於 AI 難以複製的領域： AI 擅長模仿和複製現有模式，但在情感表達、抽象思維和創新性方面仍有不足。我們應該專注於發展這些 AI 難以複製的能力，例如：

深化個人風格： 發展獨特的藝術風格和表達方式，使作品更具辨識度，避免落入 AI 生成作品的窠臼。
強調情感共鳴： 在作品中注入真實情感和個人經歷，與觀眾建立情感共鳴，這是 AI 難以複製的。
探索概念和思想： 藝術不僅僅是形式上的美感，更重要的是傳達思想和理念。嘗試利用 AI 來探索新的概念和思想，創造更具深度和思考性的作品。

保持批判性思維： 不要盲目接受 AI 的建議，要學會批判性地思考和評估 AI 生成作品的價值和意義。
總之，生成式 AI 既是機遇也是挑戰。只要我們保持警覺，積極探索新的創作方式，並始終將人類的創造力和價值觀放在首位，就能夠利用 AI 的力量來增強人類的創造力，創造出更加多元化和富有表現力的作品。

如果程式設計不再局限於程式碼的編寫，那麼在未來，程式設計師的角色將如何演變？他們將需要哪些新的技能和思維方式？

當程式設計不再局限於程式碼編寫，程式設計師的角色將從「程式碼的翻譯者」轉變為「意圖的設計師」。他們將需要培養以下新的技能和思維方式：

從「編寫程式碼」到「設計意圖」： 未來程式設計師需要更深入地理解使用者需求和問題本質，並將其轉化為清晰明確的意圖，引導 AI 生成符合預期的程式碼。
從「精通單一語言」到「掌握多模態溝通」： 與 AI 溝通需要更自然、更豐富的表達方式。程式設計師需要學習如何使用自然語言、圖像、示意圖等多種方式來表達意圖，並理解 AI 的反饋。
從「解決問題」到「定義問題」： 當 AI 可以自動生成解決方案時，定義正確的問題將變得更加重要。程式設計師需要培養更強的批判性思維和問題意識，能夠從複雜的資訊中找到關鍵問題，並提出有效的解決方案。
從「獨立工作」到「人機協作」： 未來程式設計將是一個高度人機協作的過程。程式設計師需要學習如何與 AI 協同工作，理解 AI 的優勢和局限性，並在合作中發揮各自的優勢。
持續學習和適應能力： AI 技術日新月異，程式設計師需要保持持續學習的習慣，不斷更新知識和技能，才能適應不斷變化的技術環境。
總之，未來的程式設計師將不再是單純的程式碼編寫者，而是具備設計思維、溝通能力、批判性思維和人機協作能力的綜合型人才。他們將引領 AI 時代的軟體開發，創造出更加智能、人性化和具有創造力的軟體產品。