华科与阿里共建AI安全联合研究中心

华科与阿里共建AI安全联合研究中心

天坠资讯
53分钟前发布 / 百度 / 必应 / 谷歌 / 搜狗 / 360 / 头条 /正在检测是否收录...

华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,课题覆盖大模型安全攻防等
配图:天坠之家

11月18日,华中科技大学与阿里巴巴集团签署合作协议,共同建立“智能攻防与前沿安全联合研究中心”,首批启动9个课题,聚焦AI安全领域。这一动作将高校的学术研究能力与企业的实际业务场景直接对接,方向指向大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大领域。

9个课题具体研究什么

从公开的课题案例看,研究内容与普通用户日常使用AI的场景紧密相关。当AI智能体代替用户操作手机、执行复杂任务时,屏幕画面存在被伪造的可能,操作过程也可能遭到恶意诱导。为此,联合研究中心设置了“图像对抗样本与终端威胁研判”课题,目标是探索这类安全风险的识别与防护手段。

另一项“隐私保护关系图谱”课题,则针对用户在购物、地图、外卖等应用间切换时的隐私顾虑。该课题将探索利用密态计算等技术,实现数据“可用不可见、协同不透传”,试图让数据互通的便利与个人信息保护不再互相排斥。

对通信与号卡用户意味着什么

AI安全研究看似离普通用户很远,但实际影响正在逼近。如今越来越多的手机助手、智能体应用需要读取屏幕内容、调用多个App完成操作,这中间任何一个环节被攻击或误导,都可能涉及账号安全甚至资费损失。联合研究中心把终端威胁研判和隐私协同列为课题,说明产业侧已经意识到,AI能力下沉到手机端之后,安全防护必须同步跟上。对号卡和流量卡用户而言,未来选择AI服务或相关套餐时,背后是否有这类安全研究支撑,可能会成为一项隐性但重要的参考指标。

本文由「天坠之家」编辑原创撰写,转载请注明出处。

© 版权声明
THE END
喜欢就支持一下吧
点赞 0 分享 赞赏
评论 抢沙发
OωO
取消 登录评论
SSL