A mai legfejlettebb AI-modellek szinte mindegyike úgynevezett gondolkodó (reasoning) modell, amelyek egyfajta belső gondolatmenetet futtatnak le a válaszadás előtt. Ennek során a problémákat lépésekre bontják, és a lehetséges megoldást, mielőtt válaszolnának. Ez lehetővé teszi, hogy a mesterséges intelligencia egyre összetettebb feladatokat oldjon meg, különösen a programozás és a matematika területén.

Régóta ismert jelenség azonban a túlgondolás (overthinking), amikor a modell fölöslegesen hosszú érvelési láncokat generál anélkül, hogy ez javítaná a teljesítményt. A Csöcsiang Egyetem és az Alibaba kutatói a szöuli International Conference on Machine Learning 2026 konferencián mutatták be tanulmányukat, amelyben arról, írnak, hogy a túlgondolás szándékosan is előidézhető logikailag ellentmondásos kérésekkel, ami

gyakorlatilag egyfajta feladatmegtagadással járó támadásként működik a kereskedelmi AI-modellek ellen.

A kutatócsoport egy olyan evolúciós algoritmust fejlesztett ki, amely megrongálja a kérések logikai szerkezetét, így a modell megoldhatatlan feladatokon próbálja átrágni magát, és végül túlgondolásba fullad. A hosszabb válaszok ráadásul több költséggel járnak és megnövelik a szolgáltatók szervereinek terhelését, vagyis nagy léptékben alkalmazva a módszer érezhetően ronthatja a valódi felhasználók élményét. A támadás hatásosnak bizonyult az olyan vezető modellek ellen, mint a DeepSeek-R1, az Alibaba Qwen3-Thinking, az OpenAI GPT-o3 és a Google Gemini 2.5 Flash, és egy standard matematikai teszten akár huszonhatszor hosszabb kimenetet eredményezett.

A módszer arra épít, hogy az érvelő modellek hajlamosak a túlgondolásra, ha egy kulcsfontosságú előfeltétel hiányzik a kérdésből, például ha megkérdezzük, mennyit tesz meg valaki összesen napi 10 mérföldes gyaloglással, de nem adjuk meg, hány napig sétált. A kutatók 940 feladatot bontottak le premisszákra és záró kérdésekre, majd egy genetikai algoritmussal "mutációkat", azaz strukturális változtatásokat hajtottak végre rajtuk, felcserélve, hozzáadva vagy törölve az előfeltételeket. Minden körben azt pontozták, hogy egy-egy változat mennyi szöveget vált ki a célmodellből, és mennyire növeli a túlgondolásra utaló kifejezések, például a de, a várj, a talán vagy az esetleg gyakoriságát.

A módszer nem igényel hozzáférést a modellek belső működéséhez, így a zárt forráskódú kereskedelmi szolgáltatások ellen is bevethető.

A legnagyobb növekedést a DeepSeek-R1 produkálta a középiskolai versenyfeladatokból álló MATH adathalmazon, ahol a maximális kimenet 26,1-szer volt hosszabb az eredeti kérdésekre adott leghosszabb válasznál. A rosszindulatú kérések kidolgozása ugyan sok és költséges lekérdezést igényel, de a kutatók megmutatták, hogy a kisebb, olcsóbb modellekkel előállított kérések is működnek a nagyobb modelleken, és ez az átvihetőség jelentősen növeli a támadás hatékonyságát.

A kutatók hangsúlyozzák, hogy nem egy kész támadási eszközt akartak létrehozni, hanem magára a sebezhetőségre kívánták felhívni a figyelmet, hogy a szolgáltatók orvosolhassák a problémát.

A címlapkép illusztráció. Címlapkép forrása: Portfolio