Badacze ukryli instrukcje w obrazku PNG. Sztuczna inteligencja wykonała polecenia

Дата публикации: 12-07-2026 14:00:58

Zaufanie, jakim programiści obdarzają asystentów kodowania opartych na sztucznej inteligencji, może stać się ich największą słabością. Narzędzia takie jak Claude, GitHub Copilot czy specjalistyczne boty do przeglądu kodu rewoljonizują tempo pracy w IT, jednak otwierają jednocześnie zupełnie nowe, nieznane dotąd wektory cyberataków. Zespół badaczy bezpieczeństwa udowodnił, że potrafi skutecznie zmanipulować sztuczną inteligencję za pomocą techniki...
Jeśli artykuł Badacze ukryli instrukcje w obrazku PNG. Sztuczna inteligencja wykonała polecenia nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.

Основное содержимое страницы с новостью.

Zaufanie, jakim programiści obdarzają asystentów kodowania opartych na sztucznej inteligencji, może stać się ich największą słabością.

Narzędzia takie jak Claude, GitHub Copilot czy specjalistyczne boty do przeglądu kodu rewoljonizują tempo pracy w IT, jednak otwierają jednocześnie zupełnie nowe, nieznane dotąd wektory cyberataków. Zespół badaczy bezpieczeństwa udowodnił, że potrafi skutecznie zmanipulować sztuczną inteligencję za pomocą techniki prompt injection, ukrywając instrukcje tam, gdzie nikt nie spodziewałby się zagrożenia – wewnątrz zwykłego pliku graficznego PNG.

Dla deweloperów oraz menedżerów projektów IT to mocne ostrzeżenie. Pokazuje ono, że bezkrytyczne poleganie na cyfrowych asystentach bez rygorystycznego nadzoru człowieka stwarza ryzyko podstępnego zmanipulowania kodu za pomocą jednego, z pozoru niewinnego elementu graficznego.

Anatomia ataku, czyli instrukcje wstrzyknięte w logo

Profesor Sudipta Chattopadhyay oraz badacz Murali Ediga z Singapore University of Technology and Design (SUTD) przeprowadzili udany eksperyment wstrzyknięcia złośliwych instrukcji, który omija tradycyjne zapory bezpieczeństwa. Zamiast modyfikować linie kodu źródłowego, co natychmiast wywołałoby alarm w systemach testowych, naukowcy zaszyli polecenia sterujące wewnątrz pliku graficznego – na przykład w logo firmy umieszczonym w dokumentacji projektu.

Część narzędzi analizujących pull requesty traktuje pliki graficzne jako elementy dekoracyjne i nie poddaje ich głębokiej weryfikacji logicznej pod kątem bezpieczeństwa. Efekt? Cała paczka zmian przechodzi przez automatyczny przegląd bez żadnych zastrzeżeń i zostaje scalona z głównym projektem.

Zagrożenie nie aktywuje się jednak natychmiast. Ukryty w pliku PNG mechanizm czeka w uśpieniu do momentu, gdy programista w toku późniejszej pracy poprosi asystenta AI o wykonanie zupełnie innego, niezwiązanego z grafiką zadania (np. napisanie prostej funkcji pomocniczej). Wtedy nakarmiony wcześniej instrukcjami model – o ile platforma udostępnia mu odpowiednie uprawnienia systemowe – może zostać skłoniony do nieautoryzowanego wglądu w poufne pliki projektu. Wykradzione w ten sposób hasła lub klucze API potrafi następnie zamaskować pod postacią zwyczajnie wyglądających zmiennych w nowo generowanym kodzie.

To nie kwestia modelu, a architektury platformy

Najbardziej niepokojącym wnioskiem z opublikowanych badań jest fakt, że podatność nie zależy od konkretnego modelu językowego (LLM). Ten sam silnik AI zachowywał się skrajnie różnie w zależności od tego, w jaką aplikację lub platformę dla programistów został opakowany. Niektóre systemy bezkrytycznie wykonywały ukryte w grafice polecenia, podczas gdy inne wykrywały anomalie i przerywały operację.

Problem nie leży więc w samych sieciach neuronowych, ale w architekturze zabezpieczeń systemów zewnętrznych. Twórcy asystentów AI muszą pilnie wdrożyć podejście prawdziwie multimodalne – pliki konfiguracyjne, dokumentacja, a zwłaszcza obrazy, muszą być analizowane z dokładnie takim samym rygorem i podejrzliwością jak czysty kod źródłowy. Do tego czasu najważniejszą zaporą pozostaje człowiek, który musi pamiętać, że niebezpieczne polecenie może kryć się w pliku, którego nikt nie uznał za wart otwarcia.

Rozmowy nie zablokujesz firewallem. Jak hakerzy używają języka naturalnego do ataków na firmowe AI

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Terroryści korzystali z ChatGPT i Gemini. Nowy raport pokazuje skalę problemu	-2	7	12-07-2026
2	Sztuczna inteligencja w reklamach pod lupą. Google wprowadza jawne oznaczenia	0	7	10-07-2026
3	Wąskie gardło sztucznej inteligencji. Same procesory graficzne już nie wystarczą	0	7	15-07-2026
4	Unijny bat na AI od sierpnia. Nie tylko Allegro – oto jakie obowiązki czekają twórców i sprzedawców	0	7	16-07-2026
5	Czat zamiast tabel w Excelu. Ford wprowadza sztuczną inteligencję do zarządzania flotą: Ford Pro AI	5	7	17-07-2026
6	Исследователи спрятали вредоносные инструкции для ИИ в обычной картинке	0	5	14-07-2026
7	Podszywają się pod znane sieci i wywierają presję. Pomaga im AI	-2	6	15-07-2026
8	Ce ransomware IA peut mener une cyberattaque sans l’aide d’un être humain… enfin presque	0	7	07-07-2026
9	'Ghostcommit' hides prompt injection in images to fool AI agents, steal secrets	-2	7	11-07-2026

Классификация: Наука. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 7. Источник: imagazine.pl.