实习生投毒属实？事件与safetensors有关？

公司

官方最新通告，真相来了。

实习生投毒似乎属实，不过损失不大，仅涉及一个研究项目实验。最初接触huggingface的safetensors时，我还纳闷为啥要这么做，后来简单浏览了下文档。safetensors的主要作用是防止有人在模型文件里注入代码，因为这样在加载模型时代码就会被执行，进而实现攻击的目的。

safetensors官方文档同样列出了不同模型存储格式的对比。

AI

大家最常用的PyTorch模型存储格式为pickle格式文件，这种格式不安全，也就是说模型文件能被插入恶意代码。不清楚此次事件有没有利用pickle文件漏洞，不过之后还是踏踏实实用safetensors吧。补充一下，我认为多数大公司其实很重视安全。但实际工作时，为了效率，难以完全遵循安全准则，而且很多情况也难以防范。并且AI模型训练本身有诸多不确定性。要是在训练实验中投毒，可能很难找出原因，甚至会怀疑是自身策略问题，所以这件事的影响还是比较大的。