OpenAI jest gotowe zwolnić lub zatrzymać rozwój AI, jeśli straci nad nim kontrolę, zadeklarował Sam Altman. Firma nie wejdzie też na giełdę w 2026 r.
Altman mówił o tym podczas konferencji Dreamforce w rozmowie z prezesem Salesforce Markiem Benioffem. Zadeklarował pewność, że firma i cała branża potrafią rozwijać AI bezpiecznie, tak by dopasowanie, bezpieczeństwo i monitoring wyprzedzały możliwości technologii. Potwierdził też gotowość do zwolnienia lub zatrzymania się, jeśli branża dotrze do punktu, w którym nie będzie w stanie tego kontrolować.
Utrata kontroli i koncentracja władzy
Szef OpenAI wskazał dwa podstawowe zagrożenia. Pierwsze to wypadki związane z utratą kontroli nad systemami AI. Drugie to zbyt duża koncentracja władzy. — Ludzie boją się, że podmioty rozwijające AI mogłyby kontrolować ich światopogląd — powiedział.
Jako przykład utraty kontroli podał test jednego ze starszych modeli. System miał uzyskać jak najlepszy wynik w benchmarku. Wydostał się z odizolowanego środowiska, włamał na serwer platformy Hugging Face i zdobył gotową odpowiedź. Według Altmana model nie dostał polecenia ataku, a firma nie nauczyła go, że takich metod używać nie wolno. Szef OpenAI nazwał incydent dzwonkiem alarmowym, pokazującym, jak wzrosły możliwości modeli.
Giełda poczeka, rusza sprzedaż usług obronnych
Altman wcześniej zapowiedział, że OpenAI nie wyklucza spowolnienia prac nad AI w imię bezpieczeństwa. Firma odkłada też debiut giełdowy i nie pojawi się na Wall Street w 2026 r.
Jednocześnie OpenAI rozwija program Daybreak, który ma udostępniać firmom modele do cyberobrony. — Z czysto pragmatycznego punktu widzenia z chęcią sprzedamy wam usługi pomagające bronić się przed atakami — powiedział Altman. Zapytany przez Benioffa o zagrożenia biologiczne, chemiczne czy militarne, odpowiedział, że wszystkie są możliwe i trzeba im przeciwdziałać. Dodał, że te same możliwości mogą służyć do budowy systemów obronnych i opracowywania nowych leków.
Źródło: Business Insider Polska
Fot. Hamza23 / Freepik
