探索人工智能安全技术

探索科技前沿：《未来简史》、《人工智能》 #生活乐趣# #阅读推荐#

2024年11月6日，中国科学技术大学网络空间安全学院俞能海和张卫明两位教授应邀为我校高一年级学生带来《眼见未必为实——人工智能安全技术新进展》主题讲座。活动由年级组长黄浩主持。

俞能海教授围绕“人工智能对人类认知安全的影响”展开介绍。他指出，当前人类社会、物理世界与信息空间的交汇越来越大，随着人工智能技术的发展，大量虚假图像、虚假文本、虚假视频给我们的生产生活造成极大影响。为应对AI的恶意应用，提升安全能力，保护AI赋能系统，近年来，俞教授与实验团队不断探索，取得了丰硕的成果。同学们了解到，AI复原技术还可以用于红色文化宣传，复活新中国功勋人物。

张卫明教授围绕“大模型带来的机器认知安全风险”，向同学们介绍了全球应对人工智能浪潮所做的努力。在短短几年时间里，GPT-4已经学会了使用工具、制造工具、形成社区和自我改造，《Science》杂志因此还提出AI应成为新的法律主体，建立“跨物种”法律框架。张教授告诉同学们，针对生成式AI新的安全风险，我们要加强“AI对齐”，充分发掘潜在风险并掌握有力的应对措施。

两位教授精彩的讲座结束后，同学们意犹未尽，就“人工智能技术的各种安全隐患”“未来应如何控制比我们更聪明的AI系统”等问题提出进一步的疑问，与教授们深入交流。

通过这次活动，同学们对人工智能技术有了更深的了解，也对未来的AI技术产生了新的思考。相信本次科学大讲堂一定能激发更多同学对科学技术的研究热情，将来为AI技术发展贡献自己的力量。

供稿：高一年级组 刘红蕾

一审：赵子君

二审：蒋克兢

三审：黄乃斌

网址：探索人工智能安全技术 https://www.yuejiaxmz.com/news/view/96560

相关内容

推动人工智能安全高效发展
智能家居技术的未来：从自动化到人工智能
什么是人工智能安全（AI Security）
未来家居生活的智能化革命：探索物联网技术在智能家居中的应用
人工智能与安全：保护隐私和数据安全的挑战1.背景介绍 随着人工智能（AI）技术的不断发展，我们的生活、工作和社会都在经历
基于人工智能技术背景下的家居产品设计
探索智能家居的未来：简易智能家居APP项目推荐
智能安防案例：提升生活安全的科技力量
迪探科技高峻：探见智能门窗 赋能美好人居
使用智能家居技术改善生活并保持安全的7种方法

随便看看