A sokkolókat és rendőrségi testkamerákat is gyártó Axon két évvel ezelőtt már sokaknál kiverte a biztosítékot, amikor nyilvánosságra hozta elképzeléseit egy emberi felügyelet és a mesterséges intelligencia ellenőrzése mellett is működtethető, taserekkel felszerelt drónrendszerről a szaporodó iskolai lövöldözések kapcsán. Bár hamar kiderült, hogy a dolog nem valósítható meg olyan formában, mint ahogy azt az Axon vezetősége elképzelte, a cég etikai testületében a tagok többsége benyújtotta a lemondását, miután észrevételeiket egyszerűen lesöpörték az asztalról.
A társaságnál azonban a jelek szerint nem fogytak ki az ötleteléshez szedett varázsszerekből, és bejelentették Draft One nevű új terméküket, amely lényegében a mesterséges intelligencia segtségével generálna rendőrségi jelentéseket a testkamerák hangfelvételei alapján. Ahogy a Forbes riportjából is kiderül, az Axon újabb megoldása az előzőhöz hasonló ostobaságnak tűnik: azon túl, hogy az MI közel sem tévedhetetlen, még a hallucinációra is hajlamos, és konkrét esetek igazolják, hogy a hatóságoknak mennyire nem lenne szabad támaszkodniuk rá a komoly ügyekben.
Szerintük minden oké lesz
A lap az Electronic Frontier Foundation képviselőjét idézi, aki szerint az Axon megoldása "egyfajta rémálom" – már csak azért is, mert a rendőrségtől nem várható el speciális szakértelem az MI problémáinak felismerésében. Az Axon azt állítja, hogy az OpenAI GPT-4 nagy nyelvi modelljén (LLM) alapuló termék a felére csökkentheti a rendőrök jelentések készítésével töltött idejét, amiből így több jutna a rendfenntartó szolgálatra. Az LLM-ek azonban gyakran kamuznak, rosszul foglalják össze az információt, vagy újra leképezik a faji elfogultságot a betanításukra használt adatkészletek torzításai miatt.
Az Axon állítja, hogy úgy módosította az OpenAI modelljét, amire a legegyszerűbb úgy gondolni, mint a kreativitás kikapcsolására. A társaság szerint ez drámaian csökkenti a hallucinációk és a hibák számát, és minden, amit a mesterséges intelligencia előállít, az kizárólag a felvételek átiratán alapul. Kérdés persze, hogy a "drámai csökkenés" mennyire értelmezhető egy olyan alkalmazásban, ahol egyetlen hiba is eggyel több a megengedhetőnél, és miért kellene elfogadni olyan eszközöket, amelyek deklarált módon képesek hibázni a rendészeti felhasználásban.
Biztonságos M2M kommunikáció nagyvállalti környezetben a Balasystól
A megnövekedett támadások miatt az API-k biztonsága erősen szabályozott és folyamatosan auditált terület, amelynek védelme a gépi kommunikáció (M2M) biztonságossá tételén múlik.
CIO KUTATÁS
TECHNOLÓGIÁK ÉS/VAGY KOMPETENCIÁK?
Az Ön véleményére is számítunk a Corvinus Egyetem Adatelemzés és Informatika Intézetével közös kutatásunkban »
Kérjük, segítse munkánkat egy 10-15 perces kérdőív megválaszolásával!
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak