“人工智能”若干问题

陈小平

中国科学技术大学

内容提要

• 对 Artificial Intelligence的理解 • 定性决策论研究情况• Chance Discovery研究情况

一、 AI的定义与性质

• 基本观点： 回顾 AI 过去 50 多年来的发展

历程，其最有趣的哲学问题从“强 -弱”之争演变为“真 - 假”之辩。

一、 AI的定义与性质 • artificial 的日常语言含义 ( 牛津词典 ) ： made or produced by man in imitation of

something natural.

因此， artificial 兼具“人造”和“人工”双重含义，似应更确切地译为“人为”。

一、 AI的定义与性质 • H. Simon 对 artificial 的定义： “ 由人而不是自然产生的；不真实的

或不自然的；矫揉造作的；与事物的本质无关的” ---The Science of the Artificial ，商务印书馆， 1987

可见 artificial 既包含“人工”含义 (“ 由人而不是自然产生的” ) ，又包含“人造”含义。可视其为 artificial 的标准定义。

一、 AI的定义与性质 • “ 人工”的含义：例如 “ 人工降雨”（ artificial rainfall ） “ 人工繁殖” (artificial propagation)

- 特点：产品是“真的” ( 真实的 ) ，产生过程是“假的” ( 非自然的 ) 。

一、 AI的定义与性质 • “ 人造”的含义：例如 “ 人造革” (artificial leather)

“ 人造海蜇皮 / 棉 / 丝 / 羊毛 /…”

- 特点：产品及其产生过程都是“假的”。

一、 AI的定义与性质 • “ 人工”与“人造”的对比： - 人造物仅仅是天然物的功能替代品，往往

“差强人意”，但有时却可能更强，例如飞机的运输功能比鸟强得多。“人造”智能是当前AI 的工程目标。

- 人工物比人造物更接近天然物，但往往未必能够按照人的需要制造 / 发生，例如至今未能制造出像鸟一样的飞行物。“人工”智能是AI 长期的科学目标。

一、 AI的定义与性质 • 现状： 当前国际 AI 研究既包含“人造智

能”（ 90% 以上），又包含“人工智能”（ 10% 以下）；与早期情况恰好相反。

• 结论：将 Artificial Intelligence 理解为“人为智能”更符合该领域的实际情况。

二、定性决策论研究情况：背景

• ( 自动 ) 决策是 AI 的核心问题之一。• 经典决策论的基本概念框架是概率 + 效

用，主导思想是最大预期效用原则。• 经典决策论在 AI 中遭遇的重大困难之一

是难以获得数值型概率和数值型效用；AI 主流的解决方向是“定性决策论” (Qualitative decision theory) 。

二、定性决策论研究情况：背景

• 目前定性决策论的主要技术途径是意向态度的模态理论，基本技术手段包括一元多模态逻辑（ BDI- 理论）和条件句逻辑（即关于“偏好” preference 和“常规” normality 的条件句理论）；后者更注重刻画意向的背景相关性方面。

二、定性决策论： QDT Logic

• CO- 模型 (Boutilier, 1994)

M= < W, , Val > ，其中 W ：可能世界集合， Val ： W*P→{true, false}赋值函数， 是 W 上传递且连接的二元关系，因而所有可能世界构成 -等价类的全序集， vw 理解为：

v is at least as preferred/normal as w 。

二、定性决策论： QDT Logic

• 定义两个模态词： w |= ٱA iff v w : v |= A

w |= ↕ٱ A iff v W : v |= A

及其对偶词 ↕和 。

二、定性决策论： QDT Logic

• 定义条件偏好： I(B|A) =df ↕ٱA ↕(A ٱ(AB) )

易知M |= I(B|A) 意味着对于M 中最偏爱的 AB世界 w 和最偏爱的 AB世界w’ ，有 w w’ 。

二、定性决策论： QDT Logic

• 性质 :

1

2

3

4

| ) ( ) ( );

( ( | ) ( | ) ( | )

( ( | ) ( | ) ( | )

| ) ( | )

A I I

A I I r r I r r

A I r I r I

A I

( ) I (优先分离律) 偏好传递性

受限反证律）

( ) I (相容性

二、定性决策论： QDT Logic

• 缺陷 1 ：推理能力弱，事实分离律无效，例如

{I(B|A), A} | I(B), B

而且假如有效则将破坏非单调性，例如

{I(B|A), I(B|AA’), A, A’}|= I(B), B

二、定性决策论： QDT Logic

• 缺陷 2 ：表达能力不够强 例 (Dog and fence) 条件偏好集 {I(f), I(f|d), I(d)}

在 CO 中无法表达。

二、定性决策论： QDT Logic

• 改进 (Lang等， 2003) ：同时利用两个序定义条件偏好

M |= I(B|A) iff

w’ Max(N, Mod(AB)) w Max(N, Mod(AB)) st. w P w’.

二、定性决策论： QDT Logic

• 表达能力提高，可表示诸如 dog and fence ，但仍然不能表示更强的愿望冲突如 {I(B|A), I(B|A)} ；

• 推理更复杂， D命题的推导需借助N命题。

三、 CD研究情况 : 概况

多学科交叉的新兴研究领域，广泛涉及人工智能、认知科学、经济学与管理科学， 2000 年前后正式提出，迅速受到国际学术界的高度重视。

三、 CD研究情况 : 重要国际会议• The First International Workshop on CD, 2001 (The Annu

al Conference of the Japanese Society of AI).• The Second International Workshop on CD, Tokyo, 2002

(The Pacific Rim International AI Conference).• The AAAI Fall Symposium of Chance Discovery, 2002.• The 3rd International Workshop on CD, Greece, 2003 (Th

e 10th Int’l Conference on Human Computer Interaction).• The First European Workshop on Chance Discovery, 2004

(ECAI-2004).• 其他（如 KES 2000-2004,special sessions on Chance Dis

covery ） .

三、 CD研究情况 : 重要出版物

• Special Issue on CD, New Generation Computing, Vol. 21, No. 1-2 (2002)

• Osawa Y. and McBurney P. (Eds.) "Chance Discovery", Springer Verlag (2003)

• Akinori Abe and Yukio Ohsawa （ Eds. ） "Readings in Chance Discovery", Advanced Knowledge International, Australia (to appear).

三、 CD研究情况：主要研究对象

• 面向人类的：即对人类发现过程和方法的研究，例如 Double-Helix Approach ；包括人机交互。

• 面向机器的：即对自动发现过程和方法的研究。

三、 CD研究情况：现有主要工作

• 基础理论 逻辑，系统论• 认知试验 人类学习过程，集体研讨• 计算机制 自动分析工具，人机交互工具• 应用尝试 地震预报，网络应用，导购，教学

三、 CD研究情况 :国内学者工作

• 季澄宇，陈小平， Chance Discovery in a BDI Perspective of Planning: Anticipation, Participation, and Correlation ， in: Proceedings of the 2nd International Workshop on Chance Discovery, Tokyo, 2002.

• 诸世卓，陈小平， Integrating Abductive Reasoning with Lm4c for Chance specification and Chance Discovery Inference. The Third International Workshop on CD, Greece, 2003.

• 皮亮，陈小平， A Quantitative Method for Representing Impacts of Chance based on simplified MDP/POMDP models. The First European Workshop on Chance Discovery, 2004.

• 陈小平， Cognitive relevance and chance discovery. In: Akinori Abe and Yukio Ohsawa （ Eds. ） "Readings in Chance Discovery", Advanced Knowledge International, Australia (to appear).

三、 CD研究情况：历史起源• Planning ： 原始想法可以追溯到 70 年代末不完备知识

下的静态规划问题的研究 (B.&F. Hayes-Roth ， A cognitive model of planning ， 1979) 。

• Autonomous Agents ：不确定环境下的持续规划中机会发现的启发式途径，例如 L. Pryor等人的工作 (Opportunity recognition in complex environments ， AAAI-96) 。

• Multi-Agent Systems ： 90 年代末，引起国际 AI 主流的重视 , 但未形成独立的研究领域 (Georgeff, Pell, Pollack, Tambe and Wooldridge. The Belief-Desire-Intention Model of Agency) 。

• DM/KDD ： 2000 年前后，大澤幸生等从知识发现角度出发，作为一个独立研究领域正式提出 (Yukio Ohsawa ，Chance discoveries for making decisions in complex real world, New Generation Computing, Vol.20,2002) 。

三、 CD研究情况：初步定义 • Chance 是对决策有重要影响的偶发事件。（ A chance is a rare or novel event which gi

ves significant impact on human decision-making. ）

• 有正面影响的 chance称为 opportunity ，有负面影响的称为 risk 。

三、 CD研究情况：基本性质1

• CD vs. KDD

二者都是“发现”；但 KDD 强调以一定量的数据源为基础，而 CD立足于不存在充分数据源的场合。这进一步意味着 CD 必须更多地依赖于一般性知识和推理。

三、 CD研究情况：基本性质2

• CD vs. ML

二者都是知识获取；但 ML侧重于知识获取本身，与知识的使用相对独立，而 CD 强调二者的关联。

三、 CD研究情况：基本性质3

• Chance vs. probability

概率论也研究偶然事件，但假定这些事件的发生具有统计稳定性；而 CD关心的事件则不必具备这个特性，或者缺乏对应的统计数据。这进一步意味着，基于统计的各种现有方法难以直接适用于 CD 。

三、 CD研究情况：基本性质4

• CD vs. Decision-making

传统决策论假定，决策相关的概率和效用都是已知的，所谓决策 / 行动选择只不过是计算最大预期效用；而 CD 假定，机会事件的概率和效用都不是已知的；因此，经典决策论不能直接适用于CD 。

三、 CD研究情况：基本性质5

• CD vs. KE

传统知识工程试图利用各种知识解决问题和做出决策，对相关知识的“质”和“量”都有很高要求，并且立足于演绎推理；而 CD 需要复杂多样的推理模式和技术，并且相关知识是不完备的。

三、 CD研究情况：基于认知相关性的 CD

• 主要特点 1. 机会是使愿望得到部分满足的事件；2. 机会发现与 AI规划的一种划界；3. 机会发现与 AI规划的结合；4. 机会发现与 BDI 理论的结合；5. 机会发现与机会管理的结合。

谢谢！