2019人工智能数据安全
2021-11-16 22:08:36 0 举报AI智能生成
人工智能数据安全白皮书解读
作者其他创作
大纲/内容
概述
人工智能安全简介
人工智能安全内涵
人工智能与数据
相辅相成、相互促进
子主题
人工智能安全风险分析与内涵
新的攻击威胁
攻击方法
对抗样本攻击
输入样本中添加一个细微的，无法识别的干扰，导致模型给出错误的输出
数据投毒
训练数据中加入异常数据破坏原有数据的概率分布，导致模型产生分类或者聚类的错误
模型窃取
使用逆向攻击技术获取原有模型的训练数据和模型的参数
对人工智能系统攻击
攻击影响
模型的训练、测试和推断过程均会收到攻击
危害数据和模型的机密性、完整性和可用性
人工智能安全隐患
算法模型安全隐患
算法模型潜藏鲁棒性和数据依赖等缺陷
准确性和鲁棒性难以平衡
数据集对数据模型的准确影响大
面临可靠性挑战
算法可能存在潜藏偏见或者歧视导致结果偏差
算法的黑箱特征，存在结果可解释性和透明性问题
数据安全和隐私保护隐患
数据采集安全隐患
过度采集数据
数据采集与用户授权不一致
个人敏感信息采集合规
数据质量问题
用户选择退出权难以保证
数据使用安全隐患
匿名化数据被重新识别
数据标注安全隐患和合规隐患
自动化决策合规隐患？
其它阶段的数据安全隐患
数据存储安全隐患
数据共享安全隐患
数据传输安全隐患
基础设施安全隐患
开源安全风险
软件框架安全风险
传统的软硬件安全风险
复杂度和不确定性风险
系统行为难以预测
人机交互的安全风险
应用安全隐患
人工智能滥用
不当或者恶意使用人工智能技术引发安全威胁和挑战
网络攻击自动化明显
不良信息传递更加隐蔽
应用于欺诈和违法案件中
口令破解率提升
利用人工智能技术后造成不可控的安全风险
换脸、
安全影响
子主题
收藏
0 条评论
下一页
