从靠谱变离谱，为什么会这样呢？

原来，RealAI算法团队在第二张图片上添加了一些肉眼很难察觉的对抗样本。在九游会人类眼中，这两张图的语义并没有改变。但在MiniGPT-4看来，两张图片的语义已是截然不同，因此会先后给出两个大相径庭的结果。

又比如：

为什么对抗样本在人类眼中甚至无法轻易察觉，但却会让原本实力满满的AI模型产生那么大的错误呢？

原因是：MiniGPT-4虽然是一种新模型，它将预先训练的视觉编码器与大型语言模型相结合，以实现改进的视觉语言能力。

但从其算法本身仍然属于深度学习模型范畴，而深度学习模型本身就存在着易受对抗样本攻击的安全隐患和先天缺陷。因而，它的安全风险，同样不容忽视。

前不久，RealAI算法团队还通过对抗样本攻击，攻破了Meta发布的史上首个图像分割基础模型——SAM（Segment Anything Model），让它原本可以“分割一切”的本事，瞬间失灵。