面向人工智能的数据安全利用与治理

发布时间：2024-11-21 06:33

人工智能的发展引发了隐私保护与数据安全的伦理挑战。 #生活知识# #生活感悟# #科技生活变迁# #科技伦理探讨#

2022年12月10日，CNCC论坛“面向人工智能的数据安全利用与治理”线上举办。本次论坛邀请了多位数据安全知名学者报告数据安全前沿挑战、理论与技术，并将在研讨环节讨论该领域的研究进展、应用与未来趋势。

当今，海量数据积累与人工智能模型质效提升，促进人工智能技术创新应用的大规模落地与大数据智能市场的蓬勃发展。然而，人工智能应用面临巨大的安全风险，一方面数据关联用户隐私信息，另一方面模型的破坏会导致决策错误。数据投毒影响智能服务效用、深度伪造被用来敲诈勒索、数据泄露导致用户隐私曝光等事件频繁发生，其数据安全风险引发各国高度关注。为加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控，数据安全利用与治理是关键。

2022年12月10日举办的面向人工智能的数据安全利用与治理论坛将邀请数据安全知名学者报告该领域的前沿挑战、理论与技术，并将在研讨环节讨论该领域的研究进展、应用与未来趋势，助力数字经济发展。

本次论坛由贵州大学教授/博导、计算机科学与技术学院副院长田有亮教授与CCF福州执委、CCF YOCSEF福州分论坛副主席、福建师范大学教授/博导熊金波教授担任论坛共同主席。特邀嘉宾有CCF杰出会员、欧洲科学院院士、挪威皇家科学院院士、挪威工程院院士、挪威奥斯陆大学教授/博导张彦教授，CCF会士、西安电子科技大学网络空间安全学部主任马建峰教授，湖南大学大数据研究和应用湖南省重点实验室主任、国家安全战略研究中心副主任秦拯教授，西安交通大学人才办公室副主任、网络安全学院副院长沈超教授，香港科技大学（广州）黄欣沂教授，广州大学广东省大数据安全与隐私保护工程中心主任李进教授，CCF区块链专委会委员、南京信息工程大学计算机学院执行院长付章杰教授，CCF会员、福建思知行信息技术有限公司创始人（总经理）王沁。本论坛虽然在线上举办，但观众热情不减，来自全国多所高校及企事业单位的观众参加并观看了专家们的精彩分享。

精彩回顾：

田有亮教授以及熊金波教授简要介绍了本次论坛的主题与嘉宾，同时向各位关注并参加面向人工智能的数据安全利用与治理的各位专家学者表示了欢迎与感谢。

田有亮教授主持论坛

熊金波教授主持论坛

1、区块链融合联邦学习：架构，挑战和展望

挪威奥斯陆大学张彦教授做了题为“区块链融合联邦学习：架构，挑战和展望”的报告。区块链可以在不可信的多个参与方之间建立起一种安全可靠的环境；而联邦学习作为近年来出现的新兴机器学习技术，可以实现保护隐私的智能计算。张教授报告主旨是探索如何融合区块链与联邦学习，以及如何应用该新技术实现安全高效地共享数据，并且提出了该方向的未来探索问题。

张彦教授及其报告

2、数据与机理驱动的AI可信安全与测试

西安交通大学沈超教授做了题为“数据与机理驱动的AI可信安全与测试”的报告，人工智能浪潮正在深刻赋能人类生产和生活的各个方面，基于“深度学习+大数据+高性能计算”的解决方案为许多复杂任务（例如无人驾驶、视觉处理等）提供了有效解决途径，在某些特定领域其能力已经接近甚至超越人类。然而在美好蓝图之下，AI系统本身及其在数据、模型和代码等方面的可信问题也逐渐暴露出来，AI的可信安全已经成为一个不容忽视的问题。本次报告将从数据和机理两个方面驱动分析AI系统所面临的安全风险，并讨论AI的可信安全与测试修复。

沈超教授及其报告

3、基于密码学的人工智能安全防护技术

香港科技大学（广州）黄欣沂教授做了题为“基于密码学的人工智能安全防护技术”的报告。随着大数据时代的到来，深度学习技术已经成为当前人工智能领域的研究热点，在图像识别、语音识别、自然语言处理等领域发挥了显著作用。然而，随着深度学习技术的研究深化与应用普及，其中的安全隐患逐渐暴露。本报告简要介绍当前深度学习面临的投毒攻击、隐私窃取攻击、对抗攻击、模型萃取攻击、模型逆向攻击等安全隐患，并讨论基于密码学的应对方法与防护技术。

黄欣沂教授及其报告

4、机器学习中的数据安全与隐私

广州大学李进教授做了题目为“机器学习中的数据安全与隐私”的报告。随着机器学习在图像、金融和医疗等领域的广泛应用，越来越多的安全与隐私问题出现，包括数据的安全与隐私、模型安全与鲁棒性等方面。本报告将围绕机器学习的各个阶段的数据安全与隐私问题，首先介绍目前学术界相关研究方向的主要进展，然后介绍团队在数据及模型安全与隐私保护等方面的研究进展。

李进教授及其报告

5、深度伪造取证技术研究

南京信息工程大学付章杰教授做了报告题目为“深度伪造取证技术研究”的报告。数字时代，大量的信息是通过图像和视频进行传输的。然而，当前很多不法分子利用深度伪造技术，恶意伪造图像，进行非法活动，给人们生活和社会经济带来巨大损失。如何在数据爆炸、技术快速迭代的多媒体环境中实现先进的多媒体内容篡改检测，进而有效收集数字内容犯罪证据，成为了当前数字取证领域亟待解决的问题。本次报告首先介绍国内外数字图像篡改检测领域的发展现状，然后分析当前图像篡改检测研究存在的挑战难题。