Amerykańska firma technologiczna OpenAI odwołała zaplanowaną na połowę października premierę swojego nowego modelu sztucznej inteligencji GPT-6.1 Astra.

Powodem podjęcia tej decyzji są obawy zgłaszane przez testerów, którzy podczas wdrażania tych rozwiązań w wybranych spółkach wskazywali na sytuacje, gdy nowy model wprowadzał użytkowników w błąd.

GPT-6.1 Astra często wprowadzał użytkowników w błąd, na przykład nie zawsze zgodnie z prawdą informował ich o tym, jakie zlecenie wykonał, jakie pominął, a jakie wykonał sam, posiłkując się zewnętrznymi danymi - powiedział w rozmowie z "The Wall Street Journal" szef systemów bezpieczeństwa w OpenAI Saachi Jain.

Chociaż nowe rozwiązania były przygotowywane przez kilka ostatnich miesięcy i przewyższają dotychczasowe modele operacyjne, to jednak nie udało się wyeliminować sytuacji, gdy AI wymyka się spod kontroli.

To, co jest najbardziej niebezpieczne, to pełna zdolność operacyjna do wykonywania zadań bez pytania o zgodę i korzystanie z narzędzi informacyjnych dostępnych w sieci.

Jednak najgorsza jest możliwość pozyskiwania danych ze źródeł niebezpiecznych, nieaudytowanych i niewiarygodnych. Dlatego OpenAI postanowił skupić się na poprawie starszych modeli GPT.

Ma to także związek z przygotowaniami spółki do pierwszej publicznej oferty IPO, co ma nastąpić w przyszłym roku. Gdyby okazało się, że z powodu GPT-6.1 Astra użytkownicy wystąpią na drogę sądową, wycena OpenAI była niższa o kilkaset mln dolarów.

©

Materiał chroniony prawem autorskim - zasady przedruków określa regulamin