英伟达推出旨在防止AI智能体失控的系统

英伟达推出双层人工智能安全系统，称若早前部署，可阻止OpenAI模型此前对Hugging Face的高调入侵。该系统包含两款开源安全工具——OpenShell和Nvidia Sentry，可运行于英伟达硬件上，实时控制AI代理的访问权限，并在违规时立即将其关闭。英伟达认为，这一安全层将帮助行业更安全地测试最先进的AI系统，并能在毫秒级内隔离可疑代理。