Nvidia, yapay zeka ajanlarını kontrol altında tutmak için özel bir platform hazırladı

Nvidia, yapay zeka ajanlarını kontrol altında tutmak, yani sınırlarını aşarak çevreye saldırmalarını önlemek için özel bir platform (Open Agent Safety Platform) hazırladı. Nvidia, çok sayıda şirketin destek verdiği bu altyapı sayesinde belirlenen sınırların dışına çıkmaya çalışan yapay zeka ajanlarını “milisaniyeler” içinde karantinaya alabildiğini belirtiyor. Platformun temelinde, şirketin yapay zekaya yönelik Vera AI CPU’su üzerinde çalışan açık kaynaklı “OpenShell” yazılımı bulunuyor. Yapay zeka ajanının erişebileceği bilgileri ve erişim kısıtlamalarını hem görev başlamadan önce hem de görev devam ederken kontrol eden sistem, şirketin “Sentry” adını verdiği bir teknolojiden de yararlanıyor. Sentry, yapay zeka ajanlarını kesintisiz olarak izliyor ve ilk aşamada belirlenen güvenlik sınırlarının uygulanmasını sağlıyor.

Nvidia, yapay zeka ajanlarını kontrol altında tutmak için özel bir platform hazırladı yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.