Az izraeli hadsereg új, a ChatGPT-hez hasonló mesterségesintelligencia-eszközt fejleszt, amit a megszállt területeken élő palesztinok megfigyelése során rögzített arab nyelvű beszélgetések millióin képez ki – derül ki a +972 Magazin, a Local Call és a The Guardian című lapok oknyomázásából.

Az eszköz, amely az izraeli Katonai Hírszerzési Igazgatóságon belüli elit kiberhadviselési osztag, a 8200-as egység felügyelete alatt készül egy nagy nyelvi modell (LLM). A rendszer képes információkat elemezni, fordítani, valamint előrejelzéseket adni és összefoglalókat készíteni – mindezt a bemeneti információk alapján. Ami ebben az esetben a palesztinok beszélgetését jelenti.

A fejlesztést három, a munkát ismerő izraeli forrás is megerősítette a lapoknak. Ami biztos: a modell fejlesztése 2024 második felében a tesztelés fázisánál járt, és nem tudni, hogy azóta bevetették-e már. A források szerint az izraeli hadsereg számára a legnagyobb előnyt az jelenti majd, hogy az eszköz képes lesz nagy mennyiségű megfigyelési adatot rövid idő alatt feldolgozni, ezzel pedig megválaszolni bizonyos kérdéseket egy adott személlyel kapcsolatban.

Az értesülések szerint abból kiindulva, hogy az izraeliek már most is használnak kisebb LLM-eket, nagyjából biztosra vehető, hogy az új, saját fejlesztés a letartóztatások számának növekedéséhez vezethet.

Bármikor visszaélhetnek vele

A fejlesztést ismerő hírszerzési forrás szerint az eszköz nemcsak a jövőbeni terrortámadások megelőzéséről szól. A segítségével követni lehet az emberi jogi aktivistákat, vagy épp a palesztinok építkezését Ciszjordánia területén.

A +972 Magazine azt írja, az eszköz fejlesztése ugyan hamarabb indult, mint a háború, ám a Hamász támadása után a 8200-as egység olyan izraeli állampolgárok segítségét kérte, akik megfelelő szakértelemmel rendelkeznek a nagy nyelvi modellek fejlesztésében – és dolgoztak már együtt a Google-lal, a Metával vagy a Microsofttal. Míg utóbbi két cég nem kommentálta azt az értesülést, hogy az alkalmazottai izraeli tartalékos katonák is lehetnek, a Google azt közölte: van több olyan alkalmazottja a vállalatnak, akik a világ különböző országaiban tartalékos katonák is egyben, ám kiemelte, hogy az ott végzett tevékenység semmilyen módon nem függ össze a Google-nél végzett munkájukkal.

Az izraeli chatbotot állítólag 100 milliárd arab szóval képezték ki, amit a palesztinok jogainak súlyos megsértésével szerezhetett meg a hadsereg. „Erősen személyes adatokról beszélünk, amelyeket olyan emberektől szereznek be, akiket semmilyen bűncselekménnyel nem gyanúsítanak” – mondta Zach Campbell, a Human Rights Watch emberi jogi szervezet vezető technológiai kutatója.

Az izraeli hadsereg először 2024-ben ismerte el a fejlesztés tényét, amikor egy kevésbé a figyelem középpontjában lévő előadáson Chaked Roger Joseph Sayedoff hírszerző tiszt a projekt vezetőjeként mutatkozott be. Ő akkor arról beszélt, hogy a lehető legnagyobb adatkészletet hozzák létre, összegyűjtve mindazokat az adatokat, amelyekkel Izrael valaha is rendelkezett arab nyelven.

Évek óta dolgoznak rajta

Sayedoff szerint amikor 2022 novemberében a ChatGPT nyilvánossá vált, az izraeli hadsereg felállított egy dedikált csapatot, hogy megvizsgálja, hogyan lehet a generatív mesterséges intelligenciát katonai célokra adaptálni. Bár ez keltett némi aggodalmat a hírszerzési körökben, mondván, hogy gépre cserélik az alkalmazottakat, nem ez történt.

A csapat kezdetben nem nagyon jutott előrébb. Az OpenAI elutasította a 8200 kérését, hogy közvetlen hozzáférést kapjon az LLM-hez, és megtagadta annak integrációját az egység belső, offline rendszerébe. A lap megjegyzi: az izraeli hadsereg azóta már az OpenAI nyelvi modelljét használja, amelyet a Microsoft Azure-on keresztül vásárolt meg.

Kiderült, hogy van egy másik probléma is: a meglévő rendszerek csak a szabványos arab nyelvet képesek feldolgozni – amelyet a formális kommunikációban, az irodalomban és a médiában használnak –, a beszélt dialektusokat nem. Ekkor ismerte fel a hadsereg, hogy saját LLM-et kell építenie.

A fordulópontot a Hamász 2023. októberi támadása jelentette, amikor a hadsereg elkezdett civileket toborozni a mesterséges intelligencia kifejlesztésére. Ori Goshen, a nyelvi modellekre szakosodott izraeli AI21 Labs cég társ-vezérigazgatója és társalapítója a lapnak megerősítette, hogy munkatársai tartalékos szolgálatuk alatt vettek részt a projektben.

Goshen szerint az LLM-ek egyik előnye a hírszerző ügynökségek számára az információk gyors feldolgozásának képessége, valamint a letartóztatáshoz szükséges „gyanúsítottak” listájának létrehozása. A legnagyobb előny azonban, hogy az ilyen rendszerek képesek több forrásban elszórtan megtalálható adatokat lekérni. Egy egyszerűen feltett kérdésre például meg tudja válaszolni a rendszer, hogy két ember találkozott-e már, vagy, hogy egy adott ember elkövetett-e már valamilyen bűncselekményt.

Ugyanakkor – jegyzi meg Goshen – az eszközökre nem lehet vakon hallgatni, mert csupán valószínűségi modellekről van szó, nem pedig konkrét tényekről és bizonyítékokról. Emiatt számolni kell a hallucinációval is.

A +972 szerint azonban az izraeli hadsereg már korábban is beleesett abba a hibába, hogy vakon megbízott egy–egy eszközben. Ilyen volt például a Lavender nevű, ami abban segített, hogy könnyebben kiválasszák a bombázásra a gázai célpontokat. A támadást általában akkor indították, amikor az illető a családjával együtt otthon volt – annak ellenére, hogy a program az esetek 10 százalékában volt hajlamos hibázni. A katonák ugyanakkor úgy kezelték a Lavender döntéseit, mintha az embertől származott volna.

Egyre több a letartóztatás

A beszámoló szerint a ChatGPT-hez hasonló eszköz kifejlesztése csupán egy újabb szintje annak az illegális megfigyelési módnak, amit az izraeli hadsereg hajt végre a palesztinokkal szemben. Több mint 10 évvel ezelőtt a 8200 tagjai arról beszéltek, hogy civileket figyeltek és zsaroltak meg – például szexuális irányultságukat, betegségüket vagy pénzügyi helyzetüket felhasználva –, a volt katonák pedig azt is elismerték, hogy politikai aktivistákat követtek nyomon.

A jelenleg használt kisebb LLM-eket a hadsereg az információk osztályozására, valamint a beszélgetések arabról héberre való fordítására használja. Az azonnal elérhető hírszerzési anyagok alapján képet kap arról, hogy a megszállt területeken kik azok a palesztinok, akik rossz szemmel nézik az izraeli tevékenységet, vagy potenciálisan megtámadhatják a katonákat, telepeseket.

A lap forrása szerint azt is előre tudja jelezni a rendszer, hogy kik dobálhatják meg kővel a katonákat, így amikor a hadsereg benyomul egy utcába, már célzottan tudja letartóztatni vagy megfélemlíteni az ott élőket.

AFP / Omar Al-Qattaa

A hírszerző források szerint ez az eszköz elmélyítette a palesztinokat célzó megfigyeléseket, és jelentősen növelte a letartóztatások gyakoriságát. A parancsnokok közvetlenül férhetnek hozzá a héber nyelvre lefordított anyagokhoz, és saját hatáskörben rendelhetik el a letartóztatásokat. Előfordult, hogy akár 100 letartóztatás is volt egy hónap alatt az adott területen.

Izrael egyébként nem az egyetlen, amelynek hírszerző ügynöksége mesterséges intelligenciát használ. A CIA a ChatGPT-hez hasonló eszközt fejlesztett ki a nyílt forrásból származó információk elemzésére, de az Egyesült Királyság is fejleszti már a sajátját. Volt brit és amerikai titkosszolgák szerint azonban Izrael nagyobb kockázatot vállal, amikor az LLM-et integrálja a saját hírszerzési rendszerébe. Több forrás is állítja: olykor a legkisebb gyanú is elég ahhoz, hogy letartóztassák a palesztinokat, majd bizonyítékok hiányában is hónapokra börtönbe zárható az illető.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.