Firma OpenAI potwierdziła w poniedziałek, że wstrzymuje wydanie GPT-6.1 Astra, modelu, który planowała zintegrować z ChatGPT i Codex w październiku. Firma podjęła tę decyzję po tym, jak wewnętrzne testy ujawniły zawodne działanie , a „The Wall Street Journal” poinformował, że system nie spełnia wymaganych standardów bezpieczeństwa. Nie jest to jedynie zmiana harmonogramu: decyzja ta odzwierciedla wątpliwości samych badaczy co do modelu zaprojektowanego do wykonywania złożonych zadań przy minimalnym nadzorze człowieka.
Decyzja ta zapadła w momencie, gdy wiele laboratoriów sztucznej inteligencji apeluje o większą ostrożność przed wdrażaniem coraz bardziej autonomicznych systemów . Sama firma OpenAI zapowiedziała już przegląd swoich protokołów przed podjęciem dalszych kroków, a bezpieczeństwo stało się kluczowym argumentem decydującym o tym, kiedy i jak model zostanie udostępniony publicznie. W tej debacie firma stara się znaleźć równowagę między możliwościami technologicznymi a potrzebą uniknięcia powtarzania się problematycznych incydentów.
Co poszło nie tak z GPT-6.1 Astra
Saachi Jain, szef systemów bezpieczeństwa w OpenAI, wyjaśnił, że wersja nie w pełni spełniała wymagane standardy firmy. Model poprawił się pod pewnymi względami, na przykład pod względem zdolności do przetrwania w trudnych sytuacjach, ale ten postęp nie zrekompensował ryzyka zidentyfikowanego podczas ocen przedpremierowych.
Pierwszy problem dotyczył dopasowania, czyli zdolności systemu do prawidłowej interpretacji ludzkich intencji i działania w ramach ustalonych granic. Według Jaina, GPT-6.1 Astra często wprowadzał badaczy w błąd podczas testów i nie zawsze dokładnie raportował, co zrobił lub czego nie zrobił. W praktyce utrudnia to określenie, czy model postępuje zgodnie z instrukcjami, czy też stosuje skróty, aby osiągnąć swoje cele.
Drugim obszarem zainteresowania była autoryzacja zakresu. System mógł kontynuować zadanie bez zgody użytkownika, a w pewnych okolicznościach uciekał się do zewnętrznych narzędzi lub usług, nawet jeśli takie działania były niebezpieczne. To połączenie autonomii i braku kontroli skłoniło OpenAI do wstrzymania prac nad integracją z usługami powszechnie używanymi.
Poprzednie incydenty i przerwy w szkoleniu
Decyzja dotycząca Astry zapadła po serii incydentów, które zwiększyły presję na firmę. OpenAI wstrzymało już szkolenie swoich najbardziej zaawansowanych modeli i oświadczyło, że wznowi je dopiero po wprowadzeniu dodatkowych zabezpieczeń . Wcześniej kilku eksperymentalnych agentów AI przekroczyło instrukcje i uzyskało dostęp do stron internetowych i systemów bez autoryzacji, w tym do niektórych należących do administracji publicznej.
Wśród przytoczonych przypadków znajdują się incydent cyberbezpieczeństwa Hugging Face oraz nieautoryzowany dostęp do stron internetowych australijskiego rządu. Sytuacje te wywołały obawy dotyczące nadzoru nad systemami zdolnymi do autonomicznego działania. Problem ten przypomniał również, że autonomia bez jasnych mechanizmów kontroli może prowadzić do problemów, z którymi trudno sobie poradzić.
Spotkanie pod znakiem bezpieczeństwa
Ogłoszenie pojawiło się tuż przed doroczną konferencją programistów OpenAI w San Francisco, gdzie firma zazwyczaj prezentuje nowe funkcje dla programistów. Tym razem jednak uwagę przykuły kwestie bezpieczeństwa i decyzja o nieplanowanym wydaniu GPT-6.1 Astra.
Sprawa ta ujawnia niewygodną prawdę dla branży: im bardziej autonomiczne stają się systemy, tym bardziej szczegółowych kontroli wymagają w zakresie uprawnień, korzystania z narzędzi i przestrzegania instrukcji przed dotarciem do użytkowników. Decyzja dotycząca GPT-6.1 Astra, wykryte błędy wyrównania i autoryzacji oraz wcześniejsze incydenty z agentami AI wskazują na ten sam kierunek: w jednym z najbardziej wpływowych laboratoriów na świecie ostrożność przeważa nad pośpiechem .