Rząd USA po ostatnim incydencie chce mieć przycisk który wyłącza AI
Na początku tygodnia przeprowadzono test bezpieczeństwa jednego z modeli należących do OpenAI. Ten wypadł na tyle źle, że rząd USA wziął na poważnie scenariusze znane z filmów.
Chodzi tu o głośną sprawę, w której dwa modele sztucznej inteligencji wydostały się z izolowanego środowiska, uzyskały dostęp do sieci i włamały się do serwerów Hugging Face, w poszukiwaniu odpowiedzi na pytanie zadane przez człowieka. Trudno tu mówić więc o buncie samym w sobie — w końcu wciąż realizowały cele narzucone przez człowieka — jednak robiły to w sposób, który zakończył się realnym atakiem na inny podmiot.
USA chce wyłącznika bezpieczeństwa
Tu pojawia się poważny problem: skoro w ramach procedury testowej AI znalazło sposób na ucieczkę, a następnie włamanie do innej firmy, to, czy byłoby w stanie tak jak w serii Terminator przejąć kontrole nad bronią atomową, lub uzbrojeniem? I to nie z powodu uzyskania samoświadomości, czy realnego buntu przeciwko ludziom, a z powodu pokrętnego realizowania wyznaczonego celu? Coraz więcej ekspertów wskazuje, że tak.
Z tego też powodu rząd USA planuje stworzenie ustawy AI Kill Switch Act. Ta miałaby dać mu możliwość nakazania twórcom modeli językowych wyłączenia tych, które zostaną uznane za zagrażające życiu ludzkiemu, lub gospodarce USA. Druga ustawa ma natomiast dać możliwość przeprowadzania kontroli rządowych modeli AI przed oddaniem ich do użytku.
Czy to oznacza, że zagrożenie będzie mniejsze? No cóż, nie można tu pominąć, że Chiny również dysponują niezwykle zaawansowanymi modelami sztucznej inteligencji, które nie podlegają przecież tym ustawom. Scenariusz z Terminatora więc wciąż pozostaje prawdopodobny.
