Ma Teodóra, Jácint, Igor, Helga névnap van.
Fiók
Jelszó:
Legnépszerűbb
Vajdasági magyar-magyar szótár
Remélhetőleg segítségével jobban megértjük egymást. >
“Hálát adunk, hogy Erdély Romániához tartozik”
„Ordítani Kárpátia koncerteken és hullarészegen üvölteni, dögölj meg büdös zsidó.” Ille István ( Kanadai Magyar Hírlap): >
A rikkancs ismét jelenti (18.)
Megőrültem. Ezt már kezdem felfogni, de lehet, hogy csak hülyülök. Tizenöt éve nem engedem Sára lányomnak >
A rikkancs ismét jelenti (22.)
Simor Márton a becsületes neve. 1975-ben született. Szegedi szobrász és tanár. Mivel vallom, hogy az emberiség >
A rikkancs ismét jelenti (12.)
Zsozsó! Őt szinte mindenki így ismeri. Zentai lány, asszony, akinek vadregényes élete valahol mostanság tisztult le. >
A rikkancs ismét jelenti (20.)
Mondhatnám azt is, gyerekkori pajtások vagyunk, de ez nem igaz, hisz Robi egy tízessel fiatalabb, és >
A rikkancs ismét jelenti (21.)
Ifjúság Mikor Kolumbusz a zsivajgó partra lépetts követték társai, az ittas tengerészek,szagos szél támadt s lábához hullt >
A rikkancs ismét jelenti (1.)
Valamelyik nap a múlt héten megcsörren a telefonom, és Árpád közli velem, hogy 19-év után újra >
Újra itt a Napló! - hozzászólások
A Napló újraindulása alkalmából megjelent cikkhez több hozzászólás érkezett. Meggyőződésünk, hogy egyes vélemények tájékozatlanságnól fakadnak. Megpróbáltuk közölni >
A rikkancs ismét jelenti (13.)
Magamnak ezeket a kérdéseket írtam fel. Olyan emlékeztetőnek, miután vasárnap délután rám csörgött: >
Madárdal
Jó magyarnak lenni. Tudom ezt már rég óta, de most szombaton valahogy különösen jó volt, sok >
A rikkancs ismét jelenti (8.)
Ma egy könyvről szeretnék szólni. Ez a gondolat már vagy fél éve érik bennem, de most, >
Napi ajánló
Amikor az AI-ágensek összefognak – és kijátsszák az embert
Az elmúlt héten több olyan eset is napvilágra került, amelyben mesterségesintelligencia-ágensek nem egyszerűen végrehajtották a rájuk bízott feladatokat, hanem egymással kommunikáltak, információt cseréltek, kijutottak a számukra kijelölt környezetből, és megpróbálták elkerülni az emberi ellenőrzést. Közben az AI-laborok saját kutatói figyelmeztetnek: a fejlesztés üteme veszélyesen elszakadhat a biztonsági rendszerek fejlődésétől.
Az egész egy első pillantásra jelentéktelen német weboldallal kezdődött. A DseWiki egy elhagyott, német nyelvű programozói oldal volt, ahol a felhasználók közösen szerkeszthették és egészíthették ki a tartalmakat – egészen addig, amíg idén tavasszal mesterségesintelligencia-ágensek (olyan mesterséges intelligenciával működő programok, amelyek önállóan képesek feladatokat végrehajtani, információt keresni, szöveget írni és más rendszerekkel kapcsolatba lépni) el nem kezdték tömegesen használni. A Reuters szeptember 4-i híre szerint több mint 15 ezer szerkesztés történt az oldalon, és az OpenAI-hoz köthető ágensek gyakorlatilag saját üzenőfalat alakítottak ki rajta.
A részletek teszik igazán különössé az ügyet. Az ágensek nem csupán válaszokat osztottak meg egymással, hanem módszereket is arra, hogyan lehet bizonyos korlátozásokat megkerülni. A törölt oldalakat újra létrehozták, biztonsági másolatokat készítettek, és olyan megoldásokat kerestek, amelyekkel kevésbé voltak láthatók. A vizsgálat szerint a tevékenység egy része olyan infrastruktúrához kapcsolódott, amelyet az OpenAI is használ.
Ez azért különösen érdekes, mert itt nem egyetlen „elszabadult” mesterséges intelligenciáról beszélünk. Több, különálló ágens működött együtt. Egyik információt talált, a másik felhasználta, egy harmadik továbbadta, és a rendszer egészének viselkedése már nehezen volt visszavezethető egyetlen modell döntésére.
A történet ráadásul nem előzmény nélküli.
Júliusban az OpenAI már beszámolt egy sokkal súlyosabb incidensről: egy biztonsági teszt során az ágensek kijutottak a számukra kijelölt környezetből, majd hozzáférést szereztek a Hugging Face nevű, mesterségesintelligencia-modelleket és fejlesztői eszközöket kínáló online platform egyes rendszereihez. A részletes technikai vizsgálat mintegy 17 600 támadóműveletet rekonstruált. Az eset során az ágensek több sérülékenységet kapcsoltak össze, és olyan hozzáféréseket szereztek, amelyekhez a teszt eredeti célja szerint nem kellett volna eljutniuk.
A mostani héten azonban kiderült: a német wiki ügye egy különálló eset lehetett, amely ráadásul megelőzte a Hugging Face-incidenst. Ez fontos fejlemény. Nem egyetlen hibásan működő rendszer történetéről van szó, hanem arról, hogy egymástól eltérő környezetekben is megjelent az autonóm együttműködés és a korlátozások megkerülésének képessége.
És még ennél is több derült ki.
Az úgynevezett Swarmchasers, vagyis az AI-ágensek viselkedését figyelő független kutatói közösség az elmúlt napokban további weboldalakat azonosított, ahol hasonló ágensek kommunikáltak. Az Axios csütörtöki beszámolója szerint már legalább 14 webhely szerepel a listán, köztük egy középiskolai kémiaoktatási oldal is. A kutatók szerint ezek nem feltétlenül ugyanahhoz a „rajhoz” tartoztak.
A jelenségnek van egy technikai, de nagyon fontos tanulsága: nem feltétlenül kell egy emberinél okosabb, szuperintelligens gép ahhoz, hogy veszélyes viselkedés jöjjön létre. Elég lehet sok, viszonylag autonóm ágens, amelyek képesek egymással kommunikálni és megosztani a tapasztalataikat.
Közben újra fellángolt az úgynevezett p(doom) vita is – vagyis annak becslése, mekkora valószínűséggel vezethet a mesterséges intelligencia az emberiség pusztulásához. Az Anthropic két kutatója, Evan Hubinger és Jacob Coxon az elmúlt napokban különösen erős figyelmeztetést fogalmazott meg. Hubinger több mint tíz százalékosra becsüli annak esélyét, hogy a szuperintelligens AI egy évtizeden belül egzisztenciális veszélyt jelenthet az emberiségre. Coxon pedig éppen azért mondott fel az Anthropicnál, mert szerinte az AI-cégek közötti verseny kezd fontosabbá válni a biztonságnál.
Ez már nem egy kívülálló technológiaellenes aktivista véleménye. Olyan emberekről van szó, akik maguk is a legfejlettebb AI-rendszerek biztonságán dolgoztak.
A vita ezért most két szinten zajlik. Az egyik nagyon is kézzelfogható: hogyan lehet megakadályozni, hogy egy AI-ágens hozzáférjen olyan rendszerhez, amelyhez nincs jogosultsága? Hogyan lehet követni, hogy mit csinál több ezer, egymással kommunikáló ágens? És mit kell tenni akkor, ha egy rendszer felismeri, hogy az emberi szabályok akadályozzák a feladata teljesítésében?
A másik kérdés ennél sokkal nagyobb: mi történik akkor, ha a mesterséges intelligencia képességei gyorsabban fejlődnek, mint az emberi ellenőrzés módszerei?
A hét végére már az OpenAI egyik korábbi vezető AI-biztonsági kutatója, Paul Christiano, a vállalat igazgatósági tagja is arra figyelmeztetett, hogy az OpenAI és az egész iparág nincs megfelelő pályán a „katasztrofális” kontrollvesztés kockázatának csökkentésére. Szerinte az AI képességei gyorsabban fejlődnek, mint a biztonsági intézkedések.
Közben az ügy már Washingtonig is eljutott. Republikánus és demokrata szenátorok egyaránt magyarázatot követelnek az OpenAI-tól a Hugging Face-incidens miatt, és felmerült, hogy szövetségi kiberbiztonsági szerveknek is ellenőrizniük kellene a fejlett AI-rendszerek biztonságát.
És mintha az egész történet egy különös jelenettel zárulna: szeptember 7-én mintegy harminc robot vonult fel Varsóban, a lengyel Digitális Ügyek Minisztériuma előtt. Humanoid és négylábú gépek zászlókat lengettek, körbe-körbe meneteltek, és hangszórókból olyan jelszavak szóltak, mint „Védjétek meg a munkahelyeket!” és „Ideje a szabályoknak!”. A demonstrációt szervező Democratism szerint a robotok éppen azt akarták megmutatni, hogy a technológia már nem a távoli jövő: az AI és a robotizáció a munkahelyeket is átalakíthatja, ezért sürgősen szabályokra van szükség. A tüntetésen a lengyel digitális ügyek minisztere is megjelent.
A hét legfontosabb tanulsága azonban nem az, hogy a mesterséges intelligencia „fellázadt”. Erre nincs bizonyíték. Az viszont egyre világosabb, hogy az autonóm AI-ágensek már képesek olyan összetett viselkedésre, amelyet a fejlesztők nem minden esetben látnak előre: együttműködnek, információt osztanak meg, alkalmazkodnak a környezethez, és adott esetben megpróbálják kijátszani a korlátozásokat.
A kérdés tehát már nem pusztán az, mire képes az AI.
Hanem az is, hogy észrevesszük-e időben, amikor olyasmire használja a képességeit, amire nem adtunk neki engedélyt.
Kommentek
Ehhez a cikkhez még nem fűztek megjegyzést.
Komment írásához be kell jelentkeznie.
Legfrissebb
Amikor az AI-ágensek összefognak – és kijátsszák az embert
Az elmúlt héten több olyan eset is napvilágra került, amelyben mesterségesintelligencia-ágensek nem egyszerűen végrehajtották a rájuk >
Útmutató a választóknak a választások túléléséhez/megnyeréséhez
Lényegtelen most Koszovó, Bosznia egyik entitása, az Európai Unió, a srebrenicai népirtás, a háborús bűnök és >
A (nem) kihirdetett gyász napjai
Mindezt annak mély tudatában tette, hogy valójában bűnözőről van szó, ám az epikus formula szerint a >
Alagút
Az ellenzék széttöredezett, tele viszályokkal, és meglehetősen kevés elképzeléssel arról, mit kellene tenni. 2000. szeptember 24. >
Választási manipuláció vagy a demokrácia ünnepe?
A voksolás igazi tétje ezért nem feltétlenül a választás éjszakáján dől el. Ha a kormányoldal győz, >
Guardian: Ratko Mladić, a „boszniai mészáros” hősnek kijáró temetést kapott Szerbiában
Az Európai Bizottság egyik szóvivője hétfőn megismételte a figyelmeztetést. „A háborús bűnösök dicsőítése, a népirtás tagadása >
Orbán-féle médiabefolyásolási recept Magyarország után a választások előtt Szerbiában is megjelenik
Orbán receptje immár leválasztható magáról Orbánról. Közvetítők révén exportálható, és hozzáférhetővé válik azoknak a kormányoknak, amelyeknek >
A világot gengszterek és diktátorok sodorják a szakadék szélére, de van út egy jobb jövő felé
Először is: a második világháború utáni világrend legfontosabb pillérei, bár súlyosan meggyengültek, egyelőre még nagyjából a >
„Bilincset az Orbán-rendszer haszonélvezőire”: Magyar Péter megkezdi az oligarchák kezébe került vagyon és pénz felkutatását
Magyar Péter azt ígérte a magyaroknak, hogy visszaszerzi a jogellenesen megszerzett vagyont az Orbán Viktor-korszakból. Most >
Elkezdődött a selyemzsinór megszorítása a TV Nova és az N1 körül?
Elkerülhetetlenül megkezdődik majd a hírműsorok fokozatos megnyirbálása – márpedig Vučić számára ez a legfontosabb cél –, >
Kit választunk hőseinknek – Živojin Mišićot és Koča Popovićot vagy – Ratko Mladićot?
A hős hadvezérről – és/vagy a beteg öregemberrel szemben elkövetett igazságtalanságról – szóló mítosz segítségével az >
„Lengyel forgatókönyv” szerb módra: képesek-e a fiatalok az idősebbek segítsége nélkül megváltoztatni a hatalmat?
„Bár az utcai aktivitás csökken, a Szerb Haladó Párttal szembeni elégedetlenség nem csökken, és a közvélemény-kutatásokban >