作者：莎拉‧帕帕佐格拉基斯博士
歡迎參加我們的第二場活動。 「塑造我們的未來」系列：
什麼時候： 週四，十月22，2026
時間：4：30PM - 6：00PM
當： 社區活動室 Willow Glen 分館
解讀生成式人工智慧行為“規則” as 科幻小說…。
我們將共同閱讀並討論OpenAI和Anthropic公司旗下產品（例如ChatGPT和Claude）的行為規則手冊的節錄。 OpenAI的模型規格和Claude的章程為我們了解這些深奧的生成式人工智慧系統的運作方式提供了一個視窗——同時也揭示了我們對它們運作機制的未知之處。我們在此將其解讀為計算系統治理框架從基於規則和策略的框架轉變為基於行為的系統和模型的體現。 OpenAI將其版本稱為“模型規範”，並將其描述為一種透明工具，以簡單易懂的語言闡述公司“塑造預期模型行為的方法”。 Anthropic將其版本稱為“章程”，並將其解釋為“對Anthropic公司關於Claude價值觀和行為意圖的詳細描述”。正如其他類型的政策會隨著系統的演進而不時進行修訂和更新一樣，模型規範和章程也會隨之更新。
行為規則可以被解讀為科幻小說，因為它們本質上就是科幻小說：設計者想要講述的關於系統的故事，以及作者們設想但尚未驗證的一系列行為。閱讀這些「規則」表明，設計者本身對這些模型的行為方式也存在諸多不確定性，並揭示了生成式人工智慧系統即便對於建構者而言也是多麼難以捉摸。將這些文件視為科幻小說而非技術規範，有助於我們理解這些行為規則的願景性。 Anthropic公司公開表示，該文件“主要面向Claude用戶”，這表明作者試圖影響模型，而不是準確描述可預測的行為。這些文件的願景性體現在其行文方式上，即設計者們向模型發出呼籲。
對於大多數技術而言，治理框架和規則由系統架構師和設計人員制定，並硬編碼到系統及其管理系統流程中。相較之下，這種為公司前沿模型而發明的新型技術文檔，旨在確立設計人員本身能夠以專著形式明確規範的行為，以影響和塑造用戶行為，並輔以一些硬性規定。例如，我們都習以為常（即便未必閱讀過）的標準隱私政策，它詳盡地列出了從用戶處收集的標準數據，通常會將「帳戶資訊」、「設備資訊」、「支付資訊」等列為系統收集和編碼的具體數據點，並根據政策中對數據類型的定義進行編碼。隱私權政策描述了公司存取、控制和管理的資料。作為一種行為框架，模型規範和章程描述了公司希望鼓勵的虛構行為，因為這些行為無法僅靠規則來約束。這兩份文件都包含一些明確的規則，例如克勞德憲法中的“硬性約束”和模型規範中的“基本根規則”，但它們也大量依賴描述性語言來塑造模型的輸出。這種語言將邏輯邏輯模型擬人化，要求這些工具像人類一樣運用“判斷力”和“關懷”，而這些能力實際上是計算機系統所不具備或無法體驗的。
這些新的規則手冊是人工智慧系統的創建和討論中模糊事實與虛構界線的方式之一。
與 Nada Madkour 博士深入探討安全可靠的人工智慧規則
Nada Madkour 博士將協助我們釐清建置安全可靠的人工智慧系統時所存在的種種事實與謬誤。作為人工智慧治理框架編寫和評估的專家，Madkour 博士將幫助我們理解新興技術治理的最佳實踐，以確保這些技術在設計、實施、部署和維護方面都安全可靠。在本次深度探討中，她將帶領我們了解人工智慧系統特有的關鍵安全和隱私挑戰，涵蓋資料保護、使用者陪伴和操控等各個面向。
為我們的社群建立人工智慧技術的故事和行為/規則
借鑒旨在指導強大前沿模型的願景行為目標，我們邀請參與者分享他們對這些系統及其行為的期望。在討論這些系統實際運作方式與現有描述之間的差距之後，我們將向社群提出問題：對於我們和我們的社群而言，使用一套沒有特定通用規則的系統意味著什麼？哪些行為能夠支持我們的社群？哪些行為能夠讓這些工具值得為我們的社群建構？在信任這些工具之前，我們希望能夠自行驗證哪些面向？
大家對共同展望未來的貢獻將被收集起來，並在「共創未來系列」活動結束時以展覽的形式展出。
來源：
人本主義的克勞德憲法： https://www.anthropic.com/constitution
OpenAI 的模型規格： https://model-spec.openai.com/2026-08-18.html
新增評論：為人工智慧制定規則