删除资源后将不可恢复
继上个月公布AI模型共享平台Hugging Face的跨租户攻击弱点,资安业者Wiz近期公布开源AI模型的集合平台Replicate的弱点,并指出一旦漏洞遭到利用,攻击者就有机会操纵AI模型输出的结果
而对于这项弱点带来的影响,研究人员指出,攻击者竟然可查找其他用户在此存放、仅供自用的AI模型,从而曝露模型训练过程有关的专属知识及敏感数据,或是拦截提示数据,而有可能操纵人工智能的行为并破坏模型的决策流程,直接左右输出结果的准确性、可靠性,并破坏自动化决策的完整性。