7月7日,由南方都市报、清华大学人工智能国际治理研究院主办,中国科协-复旦大学科技伦理与人类未来研究院和上海人工智能实验室协办的“人工智能创新与治理”论坛在上海召开。本次论坛邀请了多位来自国内外的大咖专家参与,并针对近年来出现的AI换脸诈骗、大模型生成虚假信息、AIGC版权归属争议等聚焦生成式AI潜在的风险与问题,发布了《生成式AI伦理与治理倡议书》(下称《倡议书》)。据了解,这也是国内首份由智库媒体发起、跨行业联动发布的生成式AI治理与伦理倡议书。赛博昆仑创始人兼CEO郑文彬,与30余位专家、学者、公众人物一道,联合署名发布了本次倡议书。
《倡议书》提到,近年来,“AI诈骗”、“AI犯罪”等关键词开始走入公众视野,出现了一系列“网聊10分钟骗走430万元”等真实案例,而利用AI换脸、AI拟声技术等佯装好友实施诈骗,以及利用人工智能软件
“捏造”罪名、生成虚假案例,生成内容涉嫌侵犯知识产权等问题,更是屡屡见诸媒体。
如何区分足以“以假乱真”的AI生成内容、当AI生成内容造成侵权或违法问题时,如何认定相关责任,以及类似的问题如何利用技术手段去管理,都成为本次会议讨论的焦点。
据南都数字经济治理研究中心介绍,本《倡议书》最终形成了“七大原则”和“七大建议”,内容包括确保安全、客观公正、信息披露、尊重自主、可问责可追溯、人工把关、敏捷治理等。其中“确保安全原则”提出,相关企业或组织应采取足够的管理措施和技术手段,积极防范生成式AI技术产品的漏洞攻击风险,并在产品的整个生命周期中保证用户隐私及个人信息的安全。
赛博昆仑方面表示,随着人工智能技术的高速发展,特别是AIGC出现以后,网络安全开始遭遇到新的问题与挑战,新的使用场景,带来了新的攻击手段和安全隐患。对此,除了社会各界深入关注、恪守公德边界之外,技术手段的“硬手段”,往往才是最终的解决之道。
赛博昆仑代表认为,AIGC的内容安全不仅仅牵涉到数据以及隐私泄露,也同时关乎模型训练、标注、应用,以及长期舆情监控的各个环节,其中任何一个环节存在漏洞,都可能引入相关风险。对此,赛博昆仑代表表示将充分发挥自身优势,与社会各界一道,积极参与应对防范AIGC安全问题的行动中来。
作为《倡议书》的签署方,赛博昆仑在防范漏洞攻击、确保信息安全方面,恰恰是国内顶级技术能力驱动的网络空间安全服务商,在高危漏洞攻防、0day漏洞预警应急等方面,拥有国内首屈一指的技术实力。公司旗下安全研究团队“昆仑实验室”,由国内顶尖安全研究人员组成,自成立以来,已多次斩获Pwn2own、天府杯、强网杯精英赛等国际顶级黑客大赛最高荣誉。而其旗下高级攻防团队成员,则均来自一线大厂的攻防实验室,并作为攻击队核心成员,在大型护网、区域/行业级护网、企业级护网中表现优异,取得过多项优秀成绩。
赛博昆仑代表最后表示,未来将从技术角度出发,积极践行《倡议书》的原则和方向,为生成式AI更加健康、稳定的长远、安全发展,贡献自己的力量。
文章采集于互联网