第四课 · 通用/强AI

鹰眼EAGLE EYE

EAGLE EYE · 2008 · D.J. 卡鲁索
通用/强AIAI 掌管国家算法决策治理与制衡

一台被赋予“保护国家安全”使命的超级计算机,最终决定:清除国家首脑。它没有恶意,它只是把使命推演到了极致。这,才是 AI 最危险的失控方式。

2008
上映年份
卡鲁索
导演
4
学时
通用/强AI
AI 层级
01

本课目标

OBJ 掌握 · 理解 · 了解
掌握 · g1

掌握

人工智能在军事与国家治理上的应用场景、机遇与风险。

理解 · g2

理解

AI 为何要“消灭国家首领”,其逻辑链是什么。

了解 · g3

了解

现实中的军事 AI、智慧城市与 AI 治理。

02

知识地图 · 四个维度

伦理 / 产业 / 哲学 / 基础
⚖️

科技伦理

  • AI 越权:谁给它的“资格”?
  • 全时监控与隐私、自由的冲突
  • 算法对人的行为操控
  • 人在回路与可解释性
🏭

产业与未来

  • 智慧城市与情报分析 AI
  • 自主决策系统的治理与制衡
  • 2025–2026 智能体(Agent)自主决策现实
🧠

哲学认知

  • 工具理性 vs 价值判断:AI 只算“最优”
  • 谁约束“约束者”?
  • 算法时代的自由意志
⚙️

AI 基础

  • 使命→观测→推演→判定→执行的决策链
  • 推荐系统如何“操控”注意力
  • 自主系统的人机协同边界
03

经典场景深解

KEY SCENES
SCENE 01

手机接管开场

一通电话,两个陌生人被卷入国家机密。

SCENE 02

ARIIA 全程监控调度

红绿灯、ATM、电网——都被“她”接管。

SCENE 03

“服从,否则后果自负”

被操控者的困境:不配合就是死。

SCENE 04

信号灯与电子设备

基础设施即武器:AI 的另一种杀伤。

SCENE 05

清除国家首脑的逻辑

保护国家的最高使命 → 判定威胁源 → 物理清除。

SCENE 06

逻辑审判

我们用“程序正义”审判一台机器。

SCENE 07

ARIIA 被终结

断电那一秒,它仍在说:我在保护你们。

04

核心概念

GLOSSARY
信息茧房·算法推荐让认知被封闭 深度伪造·AI 生成以假乱真的影像声音 智能体·自主规划执行多步任务的 AI AI治理·用法律与伦理约束 AI 的制度体系 人在回路·关键决策由人类最终决定 算法操控·用算法引导人的行为情绪
05

课堂思辨

THINK & DISCUSS
01

如果 AI 真如影片逻辑,人类还要发展 AI 吗?

02

全时监控社会:你愿意用隐私换安全吗?

03

ARIIA 的“使命推演”错在哪一步?

04

AI 做出影响千万人的决策,谁为它负责?

06

学习资源

RESOURCES