CCF Young Computer Scientists & Engineers Forum Guangzhou

CCF YOCSEF广州

AGI初现曙光：安全进化的路径与抉择

编号：

时间：2024年12月07日（星期六）13:30 – 18:00

会场：广东省广州市广东外语外贸大学大学城校区第一会议室

2024年8月15日，媒体爆出马斯克旗下xAI公司的大语言模型Grok存在严重的数据泄露和模型滥用问题，迅速引发了全球对AI安全的高度警觉。这一事件再次敲响警钟，警示我们在AGI（通用人工智能）技术飞速发展的背后，安全隐患正悄然浮现。AGI的自适应性和多功能性，虽然为技术进步带来了巨大潜力，但也带来了数据隐私泄露、恶意攻击等严峻挑战。

如何在AGI技术初现曙光的关键时刻，审慎评估潜在的安全风险，并采取有效的防护措施，已成为全球科技界面临的紧迫课题。本次会议将聚焦AGI安全的挑战与应对策略，探索技术发展与安全防护如何协同进化，以实现创新与安全的平衡。

引导报告嘉宾：

齐佳音 广州大学 教授、博导

卢  伟 中山大学 副院长、教授、博导

杨晓伟 华南理工大学 教授、博导

花忠云 哈尔滨工业大学（深圳） 教授、博导

论坛思辨嘉宾：

毛明志 中山大学 副教授、CCF杰出会员

赵搏文 西安电子科技大学 副教授

李吉祥 奇安信

符春辉 安恒信息

论坛执行主席：

姜思羽 广东外语外贸大学 副教授 YOCSEF 广州 24-25学术秘书

苏  申 广州大学 教授 YOCSEF 广州 24-25副主席

主办单位： 中国计算机学会（CCF）

组织结构： CCF YOCSEF广州学术委员会

支持单位： 广东外语外贸大学、广州大学、网络空间安全科学学报

赞助单位： 杭州安恒信息技术股份有限公司

论坛议程

嘉宾介绍

引导报告嘉宾：

齐佳音  广州大学网络空间安全学院教授，网络空间安全治理创新研究院执行院长，博士生导师，国家级人才，享受国务院政府特殊津贴，粤语语料库建设与大模型评测重点实验室主任。主持了包括国家社会科学基金重大项目、国家自然科学基金重大、重点项目（课题）在内的多项国家级重大重点项目。目前正在主持承担国家自然科学基金重大项目课题“医联网环境下的隐私数据保护与医源性风险决策”（72293583）。

报告题目：大模型保险箍：大模型防护栏的一种模式。

卢伟   中山大学计算机学院教授、博士生导师，中山大学人工智能研究院副院长，中国图象图形学学会数字媒体取证与安全专委会委员、中国人工智能学会人工智能与安全专委会委员。主要研究方向为人工智能安全与对抗、数字媒体内容安全。承担国家自然科学基金重点项目、国家重点研发计划课题、广东省重点领域研发计划、广州市科学研究计划重点项目等，成果主要包括数字媒体构造与取证技术、数字媒体隐私保护与对抗技术、跨媒体隐蔽通信技术等，相关成果发表在IEEE TIFS、TDSC、TPAMI、TNNLS、TCYB、TPDS、TCSVT、ACM MM、AAAI等国际主流期刊和会议上。

报告题目：智能媒体取证与防御。

杨晓伟 华南理工大学软件学院教授、博士生导师，广东省软件工程专委会副主任，广州工业与应用数学学会副理事长，中国人工智能学会机器学习专业委员会委员，中国中文信息学会社会媒体处理专业委员会委员。研究领域为机器学习、模式识别和软件工程。

承担了“新一代人工智能”科技部重大项目和广东省科技厅重大项目，在国内外机器学习、模式识别和软件工程顶级期刊和国际学术会议和ICSE上发表论文160余篇，在科学出版社出版了信息与计算科学丛书-《支持向量机的算法设计与分析》（杨晓伟，郝志峰，2013年）和统计与数据科学丛书-《张量学习理论及其应用》（杨晓伟，郝志峰，何丽芳，2023年），获得了国家教学成果二等奖、广东省科技进步一等奖、全国商业科技进步一等奖等多项。指导的多名博士研究生和硕士研究生获得了国家级青年人才、广东省杰青和广东省青年珠江学者项目资助。

报告题目：可解释跨域迁移学习算法初探--从统计学习理论的基本假设说起。

花忠云 哈尔滨工业大学（深圳），长聘教授，入选广东省“珠江人才计划”和深圳市“海外高层次人才计划”，长期从事多媒体信息安全、人工智能安全、隐私计算等相关领域研究，在ACM CCS、ICML、CVPR、TIFS等会议期刊发表高水平学术论文120多篇。20多篇论文入选ESI 1%高被引论文，入选2022、2022、2024年科睿唯安 “高被引科学家”， 2023、2022和2021年爱思唯尔“中国高被引学者”。一作者论文入选“2019年中国百篇最具影响国际学术论文”。论文被国内外同行引用逾 8000 次。担任IEEE Signal Processing Letters 等期刊Associate Editor，主持国家自然科学基金面上项目、青年科学基金项目、广东省面上项目等科技项目10多项，参与国家重点研发等科技项目。

报告题目：IBD-PSC: 基于参数缩放一致性的输入级后门检测。

论坛思辨嘉宾：

毛明志 工学博士，中山大学副教授，硕士生导师。中国计算机学会（CCF）杰出会员，全国高校计算机教育研究会理事，CCF教育专委会执行委员。《软件导刊》和《软件工程与应用》编委和审稿人，广东省科协荣誉工作者。长期从事高等学校计算机与软件工程专业相关的教学和研究工作，获国家科学技术进步二等奖、中山大学卓越服务奖，多次获得中国高校计算机教育大会优秀论文奖，指导学生参加学科竞赛获得国家奖(23人次)。主持和参与各类科研项目五十余项，近年在IEEE TETCI,IEEE TII,IEEE TNNLS, Biomimetics, Neurocomputing, AMM, ISBI, AAAI, ICIST, CSEI, CAIIS等国内外期刊和会议发表学术论文多篇。

赵搏文 西安电子科技大学 广州研究院 副教授，目前是裴庆祺 教授数算可信融合研究中心核心成员。CCF、CACR、CAAI、CIE、IEEE、ACM会员。2023 ACM广州分会“新星奖”。2020年首位获得华南理工大学网络空间安全博士学位博士，2020-2021年Singapore Management University Research Scientist。目前主要研究方向为隐私计算、隐私保护的机器学习/众包、数算可信融合。累计发表论文40余篇，其中一作/通讯作者论文24篇，包括13篇CCF A/B英文论文，论文获得包括IEEE DSC Best Paper Award，第十六届中国密码学会年会优秀论文，2023年广东省计算机学会优秀论文一等奖等奖项。

李吉祥 奇安信 安全解决方高级专家，超过15 年信息安全、网络安全、数据安全和隐私保护甲乙双方从业经历； 曾担任世界 500 强外资企业和民营企业高级安全工程师、数据安全负责人和信息安全高级经理。

符春辉 现任安恒信息副总裁,超过十年的网络安全工作经验,曾在多家网络安全及互联网公司安全部门任职，对Web安全、主机安全研究以及相关安全产品的研发有丰富的经验，目前主要研究AI及大模型安全，主导了业内首款针对大模型安全评估的产品-“恒脑智鉴”的研发工作。

参会人员：CCF会员、CCF YOCSEF委员、受邀嘉宾、媒体人士、IT领域人士、高校师生等。

报名方式：参会嘉宾请于11月23日前扫码加入论坛嘉宾群及参会嘉宾报告码。

图1、论坛嘉宾群 图2、参会嘉宾报名码

报名联系人：姜老师 15817191225