Vélemény: kellenek nekünk AI chatbotok a grafikus meghajtóba?

Az ötlet nem rossz, de igazából nem kínálnak valódi extrát. Sőt, nem jó, hogy egy leterhelt hardveren futnak.

Az NVIDIA nemrég adta ki a G-Assist szolgáltatást, amely számos funkciót kínál, de vitathatatlanul az egyik legérdekesebb pontja, hogy elemzi az adott játék futtatásának teljesítményét, és javasolhat bizonyos változtatásokat, hogy növelhető legyen a képkockasebesség.

Ez az egyik nagy előnye a rendszernek a konkurens AMD Chathez viszonyítva, igaz ez kínál más dolgokat, de például egy játékosnak kifejezetten hasznos, ha egy AI segít optimalizálni az adott játék futtatását.

Hirdetés

Nagyon érdekes tehát, hogy amíg az AMD a játékon kívüli segítséget képzel el, addig az NVIDIA inkább a játékon belülire fókuszál. Ezt eredményezheti az az eltérés, hogy a G-Assist 8 milliárd paraméteres modellt használ, tehát többet tud, mint az AMD Chat 3 milliárd paraméteres nyelvi modellje. Viszont ennek hátránya is van, mivel így az NVIDIA SLM-jének futtatása közel dupla annyi VRAM-ot is igényel, illetve több memória-sávszélességet foglal le a működése.

De miért állhat ehhez másképp a két cég? Az AMD az AMD Chat kapcsán korábban megemlítette, hogy az efféle lokális nyelvi modell futtatásának a hátránya, hogy lefoglalja a GPU-t. Ezzel nem tudnak mit kezdeni, egyszerűen valahol futtatni kell az AI chatbotot, és ha ez a hardver ugyanaz, ami a játékot futtatja, akkor bármennyire is kicsi az adott modell, a képkockasebesség mindenképpen romlik tőle. Emiatt az AMD alapértelmezetten kikapcsolja a rendszert, ha egy olyan alkalmazás indul el, amely a GPU-t igényelné, és csak akkor tölti be újra, ha a felhasználónak erre külön igénye van. A döntés hátterében az áll, hogy amikor fut egy játék, akkor ne foglalja le a VGA memóriáját és memória-sávszélességét egy külön nyelvi modell, ami csak arra vár, hogy a játékos kérdezzen tőle.

A G-Assist javaslatai az adott cím futtatásának sebességére vonatkozóan is problémásak lehetnek, mert nem azt elemzi, hogy a játék hogyan működne az adott GPU-n, hanem azt hogy miképpen működik akkor, ha mellette még fut egy nyelvi modell is. Ennek következtében minden javaslat pontatlan lesz, mert a G-Assist aktív működése hardvertől és játéktól függően minimum 30, de akár 200 százalékkal is ronthat az elemzett program futtatási tempóján. Tehát az adatok, amiket visszakap így a felhasználó teljesen értelmét vesztik akkor, amikor már nem aktív a G-Assist.

Ezekre azért érdemes figyelni, mert komoly kavart okozhat, ha mondjuk látjuk egy program képkockasebességét egy ennek megjelenítésére szabott overlay felületen, majd megkérdezzük ugyanezt a G-Assisttól. Utóbbi is megmondja, de akkor méri meg ezt, amikor a kérést feldolgozza, ami azzal jár, hogy a legtöbb esetben csak a valós képkockasebesség hozzávetőleg felét tudja kimérni. Bármennyire is furcsa, ez a G-Assist rendeltetésszerű működése, mert amikor méri a képkockasebességet, akkor az tényleg annyi, amennyit mért. De amint befejezte a választ, rögtön nagyjából a kétszeresére gyorsul a játék.

A nagy kérdés, hogy ezekre a szolgáltatásokra egyáltalán szükség van-e? Bizonyos funkciói jók az AMD Chatnek és az NVIDIA G-Assistnak is, de összességében nehéz látni, hogy az újdonság varázsán kívül miért lenne értelme használni őket. Kérjük meg az AI asszisztenst, hogy kapcsoljon be egy funkciót? Nem egyszerűbb ezt egy kattintással megoldani? Tehát amiben ezek igazán jók, ott szimplán gyorsabban megoldható a probléma az egérrel és a billentyűzettel, mint az AI szépen megkérésével. Ahol pedig hasznosak lennének ezek a szolgáltatások, ott még nem igazán működnek. Hosszabb távon persze bármi lehet, valószínűleg nem véletlen az, hogy túl nagy hírverést egyik újítás sem kap, mert igazából most még nagyrészt a próbaüzem zajlik.

Fontos lenne még az is, hogy ezek a nyelvi modellek végeredményben ne a játékot futtató VGA-n működjenek, hanem inkább egy másik részegységen, mert akkor szabad erőforrást kötnének le, és úgy egyrészt gyengébb hardverekkel is elérhető lenne a szolgáltatás, másrészt nem lassítaná le a játékok futtatási sebességét a chatbotok aktiválása.

Előzmények

Hirdetés