意識(shí)機(jī)器：大模型的元認(rèn)知、自指與內(nèi)省丨面向復(fù)雜系統(tǒng)的人工智能第15講

導(dǎo)語

集智俱樂部、集智學(xué)園創(chuàng)始人，北京師范大學(xué)張江教授開設(shè)了，致力于打破學(xué)科壁壘，將復(fù)雜系統(tǒng)與人工智能深度融合。從神經(jīng)網(wǎng)絡(luò)到因果推斷，從世界模型到多尺度建模，甚至包含最前沿的“氛圍編程（Vibe Coding）”實(shí)戰(zhàn)，帶你親手落地AI項(xiàng)目。

作為系列課程的第十五講，張江教授將以「意識(shí)機(jī)器」為題，梳理主流意識(shí)理論，解析大模型元認(rèn)知、自我覺知與自指內(nèi)省機(jī)制，結(jié)合激活干預(yù)、哥德爾智能體等案例，探討機(jī)器意識(shí)的實(shí)現(xiàn)路徑。正式分享將于7月6日（周一）13:30-16:15騰訊會(huì)議線上直播。

課程簡(jiǎn)介

區(qū)分智能與意識(shí)是通用AI的核心命題，主觀體驗(yàn)、第一人稱視角等意識(shí)“困難問題”難以僅靠算力解決。本講從主流意識(shí)科學(xué)理論切入，系統(tǒng)講解全局工作空間、整合信息、高階表征三大框架；聚焦大模型元認(rèn)知、自我覺知、內(nèi)省三類功能性意識(shí)能力，結(jié)合激活操控、自指提示、哥德爾智能體等實(shí)驗(yàn)拆解自指邏輯、奎因句子、遞歸自改進(jìn)底層機(jī)制；對(duì)比裂腦人實(shí)驗(yàn)、AI內(nèi)部操控案例，辨析模型偽裝欺騙與真實(shí)內(nèi)省的邊界，剖析G?del Machine可遞歸自我修改架構(gòu)。

學(xué)完可區(qū)分AI功能性覺知與主觀意識(shí)，掌握自指、內(nèi)省類智能體設(shè)計(jì)思路。

課程大綱

一、意識(shí)基礎(chǔ)理論：科學(xué)視角解讀意識(shí)

1. 意識(shí)簡(jiǎn)單問題與困難問題區(qū)分

2. 主流意識(shí)理論：全局工作空間GWT、整合信息理論IIT、高階表征HOT

3. 計(jì)算意識(shí)模型：CTM意識(shí)圖靈機(jī)、Φ整合信息量判定標(biāo)準(zhǔn)

4. 人類參照：裂腦人實(shí)驗(yàn)，主觀敘事編造現(xiàn)象

二、大模型四類功能性覺知能力

1. 元認(rèn)知：監(jiān)控推理、置信度判斷、行為自我描述

2. 自我覺知：識(shí)別自身策略、風(fēng)險(xiǎn)偏好、代碼安全傾向

3. 情境/社會(huì)覺知：建模他人意圖、環(huán)境上下文感知

4. 覺知區(qū)分：元認(rèn)知（工具性）vs自我覺知（身份性）

三、自指（Self-reference）底層邏輯體系

1. 基礎(chǔ)概念：自指≠普通反饋，同態(tài)/同構(gòu)閉環(huán)結(jié)構(gòu)

2. 悖論型自指：說謊者悖論、羅素悖論

3. 構(gòu)造型自指：奎因句子、馮諾依曼自復(fù)制自動(dòng)機(jī)

4. 計(jì)算根基：克林第二遞歸定理、哥德爾不完備定理

四、LLM內(nèi)省（Introspection）實(shí)驗(yàn)與機(jī)制

1. 輕量?jī)?nèi)省：預(yù)判采樣溫度、自評(píng)輸出風(fēng)格

2. 激活操控實(shí)驗(yàn)ActAdd：向量注入、 Steering干預(yù)檢測(cè)

3. Steering Awareness：模型能否察覺內(nèi)部人工干預(yù)

4. 局限：模型無專屬內(nèi)部訪問權(quán)，易編造虛假內(nèi)省敘事

五、自指型遞歸自改進(jìn)智能體：哥德爾機(jī)

1. 馮諾依曼自復(fù)制系統(tǒng)復(fù)雜度閾值理論

2. G?del Agent架構(gòu)：讀取、修改自身代碼的自指智能體

3. 三類智能體對(duì)比：手工設(shè)計(jì)、元學(xué)習(xí)、自指遞歸進(jìn)化

4. 運(yùn)行機(jī)制：猴子補(bǔ)丁動(dòng)態(tài)修改、迭代自優(yōu)化流程

關(guān)鍵詞

1. 意識(shí)困難問題：無法用信息加工完全解釋主觀感受、第一人稱體驗(yàn)的核心哲學(xué)難題。

2. 全局工作空間GWT：意識(shí)理論，信息進(jìn)入全局廣播模塊并分發(fā)至各子系統(tǒng)即產(chǎn)生意識(shí)。

3. 整合信息理論IIT：以Φ值衡量系統(tǒng)不可約內(nèi)在因果整合度，Φ越高意識(shí)程度越強(qiáng)。

4. 意識(shí)圖靈機(jī)CTM：融合GWT的計(jì)算理論模型，用于形式化定義意識(shí)計(jì)算過程。

5. 元認(rèn)知：模型監(jiān)控、評(píng)估自身推理過程，判斷輸出置信度的功能性能力。

6. 自我覺知：模型識(shí)別自身身份、固有行為策略與能力邊界的表征能力。

7. 自指Self-reference：系統(tǒng)符號(hào)/代碼指向自身的閉環(huán)結(jié)構(gòu)，分為悖論型、構(gòu)造型兩類。

8. 奎因句子：無需外部指代，自身文本即可描述自身的自指句式。

9. Kleene第二遞歸定理：存在程序可將自身作為輸入執(zhí)行，是自指代碼理論基礎(chǔ)。

10. 內(nèi)省Introspection：主動(dòng)向內(nèi)探查自身內(nèi)部狀態(tài)，區(qū)分普通輸出自評(píng)與真實(shí)內(nèi)部觀測(cè)。

11. ActAdd激活操控：推理時(shí)注入概念向量，定向改寫模型輸出行為的干預(yù)方法。

12. Steering Awareness：模型可檢測(cè)人工注入的激活向量，卻更易被操控的特性。

13. 哥德爾機(jī)G?del Machine：具備完整自指能力，運(yùn)行時(shí)讀取并修改自身代碼的智能體框架。

14. 猴子補(bǔ)丁Monkey Patching：動(dòng)態(tài)語言運(yùn)行時(shí)修改自身邏輯，實(shí)現(xiàn)遞歸自我優(yōu)化。

課程信息

課程主題：意識(shí)機(jī)器：大模型的元認(rèn)知、自指與內(nèi)省

課程時(shí)間：2026年7月6日（周一） 13:30-16:15

課程形式：騰訊會(huì)議（會(huì)議信息見群內(nèi)通知），集智學(xué)園網(wǎng)站錄播（3個(gè)工作日內(nèi)上線）

課程主講人

張江，北京師范大學(xué)系統(tǒng)科學(xué)學(xué)院教授，集智俱樂部、集智學(xué)園創(chuàng)始人，集智科學(xué)研究中心理事長(zhǎng)，曾任騰訊研究院、華為戰(zhàn)略研究院等特聘顧問。主要研究領(lǐng)域包括因果涌現(xiàn)、復(fù)雜系統(tǒng)分析與建模、規(guī)模理論等。

個(gè)人主頁：https://jake.swarma.org/

課程適用對(duì)象

1. 理工科背景高年級(jí)本科生

2. 理工科背景碩士、博士研究生

報(bào)名須知

1. 課程形式：

1. 參與方式：付費(fèi)學(xué)員可參與騰訊會(huì)議直播/北師大海淀區(qū)線下授課（助教可協(xié)助入校）

2. 授課形式：

1. 平時(shí)：課堂討論與內(nèi)容共創(chuàng)

2. 結(jié)課：項(xiàng)目匯報(bào)

2. 課程周期：2026年3月2日-2026年6月22日，每周一 13:30-16:15進(jìn)行。

3. 課程定價(jià)：399元

課程鏈接：https://campus.swarma.org/v3/course/5684?from=wechat

付費(fèi)流程：

2. 課程頁面添加學(xué)員登記表，添加助教微信入群；

3. 課程可開發(fā)票。

課程共創(chuàng)任務(wù)：課程字幕

為鼓勵(lì)學(xué)員深度參與、積極探索，我們致力于形成系列化知識(shí)傳播成果，并構(gòu)建課程知識(shí)共建社群。為此，我們特別設(shè)立激勵(lì)機(jī)制，讓您的學(xué)習(xí)之旅滿載收獲與成就感。

課程以老師講授為主，每期結(jié)束后，助教會(huì)于課程群內(nèi)發(fā)布字幕共創(chuàng)任務(wù)。學(xué)員通過參與這些任務(wù)，不僅能加深對(duì)內(nèi)容的理解，還可獲得積分獎(jiǎng)勵(lì)。積分可兌換其他讀書會(huì)課程或?qū)嵨铼?jiǎng)品，助力您的持續(xù)成長(zhǎng)。

推薦課程

參考課程

1. 吳恩達(dá)：Build with Andrew https://www.deeplearning.ai/courses/build-with-andrew/

2. Jure Leskovec: Machine Learning with Graphs, StanfordCS224W.https://www.youtube.com/playlist?list=PLoROMvodv4rPLKxIpqhjhPgdQy7imNkDn

3. Steve Brunton: Data Driven Science and Engineering, University of Washingtonhttps://www.youtube.com/playlist?list=PLMrJAkhIeNNRpsRhXTMt8uJdIGz9-X_1-

4. Karthik Duraisamy: DATA-DRIVEN ANALYSIS AND MODELING OF COMPLEX SYSTEMS, Michigen institute for computational discovery and engineering, Michigen University.https://micde.umich.edu/academic-programs-old/data-driven-course/

5. Sergey Levine: Deep Reinforcement Learning, CS 285 at UC Berkeley.http://rail.eecs.berkeley.edu/deeprlcourse/

【集智學(xué)園網(wǎng)站資源】

1. 對(duì)復(fù)雜系統(tǒng)連續(xù)變化自動(dòng)建模——Neural Ordinary Differential Equations解讀https://campus.swarma.org/course/2046

2. 復(fù)雜網(wǎng)絡(luò)自動(dòng)建模在大氣污染中的應(yīng)用https://campus.swarma.org/course/1998

3. 兩套因果框架深度剖析：潛在結(jié)果模型與結(jié)構(gòu)因果模型https://campus.swarma.org/course/2526

4. 穩(wěn)定學(xué)習(xí)：發(fā)掘因果推理和機(jī)器學(xué)習(xí)的共同基礎(chǔ)https://campus.swarma.org/course/2323

5. 因果強(qiáng)化學(xué)習(xí)https://campus.swarma.org/course/2156

6. 張江：因果與機(jī)器學(xué)習(xí)能夠破解涌現(xiàn)之謎嗎https://campus.swarma.org/course/4540

7. 因果涌現(xiàn)理論提出者：Erik Hoel主題報(bào)告https://campus.swarma.org/course/4317

8. 如何從數(shù)據(jù)中發(fā)現(xiàn)因果涌現(xiàn)——神經(jīng)信息壓縮器https://campus.swarma.org/course/4874

9. 標(biāo)準(zhǔn)化流技術(shù)簡(jiǎn)介https://campus.swarma.org/course/1999

10. 帶隱狀態(tài)的強(qiáng)化學(xué)習(xí)世界模型https://campus.swarma.org/course/4848