当前,人工智能发展面临着极为紧迫的安全问题。诺贝尔奖获得者杰弗里·辛顿(Geoffrey Hinton)曾警告,未受约束的人工智能可能给人类带来严重威胁。而当下,关于人工智能安全的研究极为匮乏。只有识别人工智能发展过程中可能产生的安全风险,提前加以应对,才能真正实现人工智能的可持续发展。为应对AI快速发展带来的新风险、新挑战,从智能体的“心智”与“行为”入手,为风险识别、安全评测与治理机制提供科学依据,正成为人工智能研究的重要前沿。11月16日,“人工智能心理学”学术报告在琶洲实验室举行,本次学术报告即围绕这一命题展开。报告由香港城市大学讲席教授、IEEE Fellow吴大鹏(Dapeng Oliver Wu)主讲,实验室科研人员及师生参加,华南理工大学副校长、琶洲实验室智慧城市关键技术研究与应用团队负责人许勇,实验室党委副书记、行政副主任袁传思出席活动。

吴大鹏以“人工智能心理学:一门用于理解与培育人工心智的新兴学科”为题作报告。他表示,人工智能系统具备被设计出类人意识与情感的可能,当前正是研究人工智能意识与情感背后心理机制的关键时期。人工智能心理学以人工智能的心智与行为为研究对象,涵盖意识与无意识现象、思维及情感等方向。

围绕学科框架,吴大鹏提出三大核心问题:人工智能在给定的潜在心智状态下会产生何种行为;如何从外在行为反推其潜在心智状态;如何训练智能体以达成指定目标。



互动环节,吴大鹏与现场师生就报告内容进行交流探讨。本次报告为实验室科研人员把握人工智能与心理学交叉研究前沿提供了参考。
实验室坚持发展和安全并重,积极探索符合人工智能发展规律的敏捷治理路径,推动治理体系与技术发展同向而行、协同演进。实验室将持续深化人工智能内容检测、违规内容审核、恶意攻击防御与人工智能伦理治理等关键技术攻关,持续提升“火眼·AI鉴真”等平台的检测与治理能力;推动安全治理技术成果向媒体、医疗、教育等重点场景转化落地,拓展应用边界;推进人工智能安全治理标准体系建设与专业人才培养,为大湾区人工智能产业健康发展提供支撑。
吴大鹏(Dapeng Oliver Wu),现任香港城市大学计算机科学系杨建文网络科学讲席教授、IEEE Fellow。曾获NSF CAREER、AFOSR YIP、ONR YIP等多项美国重要科研奖项,担任IEEE多本顶级期刊主编/副主编,曾任IEEE INFOCOM 2012技术程序委员会(TPC)主席,研究方向涵盖人工智能、通信、图像处理、计算机视觉、信号处理及生物医学工程等多个领域。