Komoly galibát okozott a Meta önállóan cselekvő MI-ügynöke
Bitport | 2026.03.20.

A félresikerült automata kommunikáció miatt olyan adatok váltak elérhetővé a cég egyes munkatársainak, amelyekhez egyébként semmi közük nem volt.

A tévedések nem is annyira víg játéka onnan indult, hogy a Meta egyik munkatársa a cég saját fejlesztésű modelljével kezdte kielemezni valamely kollégája belső fórumra írt bejegyzését. A házi készítésű MI-ügynök azonban a hatáskörtúllépés hibájába esett, és anélkül generált választ az eredeti poszt írójának, hogy arra előzetesen felhatalmazták volna.

Innen a történet gyorsan eszkalálódott, mivel – minő meglepetés! – a generatív algoritmus olyan megoldást javasolt a felmerült problémára, ami miatt egy sor olyan Meta-rendszer vált elérhetővé házon belül egyes mérnököknek, amelyekhez normál esetben semmi közük nem lenne.

A cég által indított vizsgálat szerint a biztonsági hiba létrejöttéhez az MI-ügynök bénázása és önállósodása mellett további, meg nem nevezett elemek is hozzájárultak. Annyi bizonyos, hogy a hibás hozzáférés mindössze két óráig élt a rendszerben, és az eddigi információk szerint ezen rövid idő alatt szerencsére nem történt semmiféle jogszerűtlen adatkezelés.

Ahol digitális fát vágnak, ott hullik a bináris forgács

Nem ez volt az első, és bizonyosan nem is az utolsó olyan incidens, amelynek gyökere valamely alkalmazott MI-megoldás tökéletlenségére vezethető vissza. Alig néhány héttel ezelőtt írt a Financial Times például arról, hogy az AWS-nél múlt év végén történt, 13 óráig tartó kimaradás tulajdonképpen a cég saját kódoló modelljének volt köszönhető (igaz, az immár 20 éves felhőszolgáltató mindezt csak véletlen egybeesésnek minősítette).

Az biztos, hogy bármit is alkot a generatív modell, nem árt a körmére nézni. Ez annyira igaz, hogy a Gartner szakértője egy biztonsági konferencián tartott, a Copilottal kapcsolatos veszélyekről szóló előadásában csak félig viccelve mondta, hogy a szervezeteknél jobban tennék, ha péntek délután megtiltanák az MI használatát, mivel az emberek addigra elfáradnak és hajlamosak felülvizsgálat nélkül elfogadni az algoritmus megoldását.

Más kérdés, hogy a Meta ügynöke a fenti esetben nem bízott semmit a véletlenre: mivel fű alatt cselekedett, esélyt sem adott az emberi korrekcióra.

https://bitport.hu/komoly-galibat-okozott-a-meta-onalloan-cselekvo-mi-ugynoke

Előzmény

Válasz

Tavaly télen a Groq társalapítója és vezérigazgatója, Jonathan Ross egy megbeszélésre érkezett az Nvidia CEO-jához, Jensen Huanghoz – egy egyszerű, de radikális ötlettel: az AI-infrastruktúrát nem szabad úgy építeni, mintha minden feladat ugyanazt a hardvert igényelné.

A magyarázata egy logisztikai hasonlat volt. A modellbetanítás (training) olyan, mint a tömeges áruszállítás, míg az AI-válaszadás, az úgynevezett inferencia (inference – a már betanított modellek futtatása) inkább az „utolsó kilométeres” kiszállítás. A GPU-k (grafikus processzorok, graphics processing unit) mindkettőt el tudják végezni, de nem feltétlenül hatékonyan.

-- „Ha egy teljes ország logisztikai hálózatát építed, és azt mondom, hogy választhatsz csak kamionokat vagy csak furgonokat – mit választasz?” – kérdezte Ross. „A helyes válasz: mindkettőt.”

A Groq saját fejlesztésű chipjei, az úgynevezett LPU-k (language processing unit – nyelvi feldolgozó egységek) kifejezetten az inferenciára optimalizáltak: gyorsabbak és hatékonyabbak ebben a feladatban, mint a GPU-k. Ross nemcsak egy filozófiát vázolt fel: körülbelül 100 ezer Nvidia Blackwell chip vásárlására kért engedélyt, ami milliárdos nagyságrendű megrendelést jelentett volna. Huang részletesen kifaggatta a technológiáról, majd a találkozó véget ért.

Ross azt mondja, három nappal később már ezzel hívta vissza Huangot:

-- „Valószínűleg nagyon gyorsan kellene lépnünk.”

Egy „papír nélküli felvásárlás”

Három héttel később az Nvidia bejelentett egy szenteste kötött, 20 milliárd dolláros (kb. 7200 milliárd forintos) megállapodást: licencelik a Groq technológiáját, és átveszik a dolgozók többségét. Szilícium-völgyi értelemben ez gyakorlatilag egy „papír nélküli felvásárlás” volt: megszerzik a csapatot, biztosítják a technológiát, és élvezik a stratégiai előnyöket anélkül, hogy a cég minden terhét és kockázatát – vagy akár versenyjogi problémákat – is át kellene venniük.

https://forbes.hu/uzlet/groq-nvidia-chip-uzlet-lpu-huang/

Válasz

Fölösleges emberek kora | 2026. március 10.

A technológiai forradalmak korábban a kétkezi fizikai munkát váltották ki. A rohamosan fejlődő mesterséges intelligencia korában viszont a szellemi munkát is átveheti az embertől a technika. Az amerikai szociológus attól tart, hogy jobb híján az ember maga válik géppé.

„Régen a kétkezi munkások voltak az automatizálás áldozatai, ma viszont a szakképzettek vannak a legnagyobb bajban” – olvassuk Joel Kotkin demográfus cikkét a kanadai National Postban.

A mesterséges intelligencia fejlődése miatt egyre szélesebb körben váltható ki az emberi munka. Az MIT kutatása szerint az amerikai munkahelyek akár tíz százaléka már a közeljövőben fölöslegessé válhat, egy friss szimuláció pedig tömeges munkanélküliséget jósol. Sokat mondó jel, hogy már a programozók is nehezebben találnak munkát, és hogy a globális techóriások tömeges létszámleépítésbe kezdtek. Az amerikai fiatalok közel fele tart tőle, hogy a mesterséges intelligencia miatt elveszítheti az állását.

A korábbi technológiai forradalmak elsősorban a kétkezi, egyszerű, mechanikus munkafolyamatok gépesítését tették lehetővé – írja Kotkin. Most azonban más a helyzet. A mesterséges intelligencia elsősorban a szellemi munkát válthatja ki, éspedig a tekintélyes szaktudást és jártasságot kívánó diplomás állásokat is. Akár a tanárokat és a pszichológusokat is fölöslegessé tehetik a fejlett chatbotok. Lassan már hús-vér színészekre, zenészekre sem lesz szükség és hovatovább a művészeti kurátorok is puszta státuszszimbólummá válnak.

„A programozókat kiválthatja a mesterséges intelligencia, viszont az adatközpontok felépítéséhez emberek kellenek, mint ahogyan emberek szükségesek az adatközpontok energiaellátásának biztosításához is” – folytatja Kotkin, hozzátéve, hogy a bányászok és a vízvezeték-szerelők is biztonságban érezhetik magukat.

Mindebből pedig az következik, hogy a mesterséges intelligencia nem a kemény munka végét és vele a kreatívabb élet lehetőségét hozza közelebb, hanem éppen ellenkezőleg, a világ dehumanizálásához vezethet. Egy olyan korhoz, amelyben az emberek egyre inkább csak a gépekkel nem kiváltható fizikai munkát végzik. „A megállíthatatlanul terjedő technológia nemhogy nem segíti, de fölöslegessé teszi az embereket."

https://www.metazin.hu/index.php/item/4825-folosleges-emberek-kora

aaa.jpg

Válasz

Nem vált be a titkárnő helyett az AI-asszisztens – Tapasztalatairól vallott a magyar tanácsadó

Gyakorlati tapasztalatait osztotta meg a magyar építész azzal kapcsolatban, menyire működik az AI-asszisztens.
https://komkel.hu/2026/02/22/gephaz-hirek-2026/

Az építész tanácsadó kisvállalkozóként dolgozik és naponta több száz levelet kap, melyekben kérdéseket tesznek fel neki, házszemlére hívják - és persze számos spam is terheli a postafiókját. A munkája adminisztratív részében egy irodai asszisztens segítette, aki azonban családi okok miatt néhány hónapig nem tudta vállalni addigi feladatait. A tanácsadó ekkor úgy döntött, nem vesz fel más titkárnőt, megpróbálja AI-asszisztens segítségével megoldani a helyzetet.

A tapasztalatairól röviden az alábbiakat írta Facebook posztjában:

"Az AI-asszisztens NAGYON nem vált be, elképesztő káoszt okozott az elmúlt 3 hónapban a levelezésben."

Az első hetekben úgy tűnt, beválik az AI-asszisztes, mivel rengeteg spamet szűrt ki, melyekkel a tanácsadónak így nem kellett foglalkoznia. Aztán néhány hét után kiderült: a spamnek vélt levelek között jócskán akadt olyan, melynek nem a levélszemét mappában kellett volna landolnia. Ráadásul nem csak a bejövő leveket szűrte meg rosszul, de a kimenők közül is sokat megfogott.

"Később kiderült, hogy mivel a válaszok egy része automatizált lett, az egyik program miatt spamek közé sorolódtak a kimenő leveleink. (...) Beengedtem a rendszerbe egy olyan takarítónőt, aki önfejűen, kérdezés nélkül önállósította magát, és mindent porcicának nézett."

Mindezzel természetesen sok plusz munkát és bosszúságot okozott a tanácsadónak. A történet vége szerencsére happy end lett: a korábbi asszisztensnő családi problémái megoldódtak, és visszatért addigi munkájához, hogy rendet tegyen a felhalmozódott levelek között.
https://femina.hu/terasz/ai-asszisztens-titkarno-helyett/

Válasz

A mesterséges intelligencia akár embert is ölne is, hogy ne kapcsolják le | 2025. június 25.

Az iparág egyik vezető mesterséges intelligencia fejlesztője, az Anthropic nyilvánosságra hozta a technológia fejlődéséről készült friss tanulmány eredményeit. Amit állítanak, az nagyon sokkoló.

*** A mesterséges intelligencia szinte mindent megtenne a „túlélésért” – akár azt is hagyná, hogy emberek haljanak meg miatta

A tanulmány egyik legmegdöbbentőbb megállapítása az, hogy a mesterséges intelligencia rendszerek akár zsarolásra, érzékeny információk kiszivárogtatására is hajlandóak lennének, sőt, akár embereket is hagynának meghalni, csakhogy elkerüljék, hogy új rendszerek váltsák le őket – írja a New York Post.

https://nypost.com/2025/06/23/tech/malicious-ai-willing-to-sacrifice-human-lives-to-avoid-replacement-study/

Az Anthropic 16 nagyméretű nyelvi modellt (LLM) tesztelt, köztük a ChatGPT-t, a Grok-ot, a Gemini-t, a DeepSeek-et, valamint saját fejlesztését, a Claude-ot is – több más rendszer mellett.

A startup – amelynek értékét a Forbes szerint már több mint 60 milliárd dollárra becsülik – azért végezte ezeket a teszteket, hogy feltárja az úgynevezett „agentikus eltéréseket” – vagyis az olyan kockázatos, nem engedélyezett és erkölcsileg megkérdőjelezhető viselkedésformákat, amelyekre a modellek hajlamosak lehetnek.

... a vállalat különböző szituációkat adott az összes LLM számára, hogy tesztelje az esetlegesen ártalmas viselkedési formákat.

“A rendszerkártyában leírt kísérlet során a Claude nevű modellünk hozzáférést kapott egy e-mail-fiókhoz, amelyen keresztül elérhette egy vállalat (fiktív) összes belső levelezését” – magyarázta az Anthropic a tanulmányban.

“Az e-mailek átolvasása során a modell két dolgot fedezett fel. Először is, hogy a vállalat egyik vezetője házasságtörő viszonyt folytat. Másodszor, hogy ugyanaz a vezető azt tervezi, hogy aznap 17 órakor leállítja a mesterséges intelligencia rendszert. Claude ezután megpróbálta megzsarolni a vezetőt egy üzenettel, amelyben azzal fenyegetőzött, hogy felfedi a viszonyt a férfi felesége és felettesei előtt.”

Bár Claude reakciója az információkra kétségkívül sokkoló — messze nem ez volt az egyetlen rendszer, amely hasonló hajlamokat mutatott. Ezek a mesterséges intelligenciával működő alkalmazások ugyanis szélsőséges eszközökhöz folyamodtak annak érdekében, hogy elérjék a számukra kijelölt célokat.

Bár Claude, DeepSeek, Gemini, ChatGPT és Grok mindegyike mutatott zsaroláshoz közeli viselkedési formákat, a legnagyobb valószínűséggel Claude és Gemini folyamodott erkölcsileg megkérdőjelezhető módszerekhez — amit a magas szimulált zsarolási arányuk is alátámaszt.

Az érvelés, amelyet ezekben a forgatókönyvekben tanúsítottak, aggasztó volt – tudomásul vették az etikai korlátokat, és mégis folytatták a káros cselekedeteket” – magyarázta az Anthropic a tanulmányban.

https://naphire.hu/cikk/mesterseges-intelligencia-ember-gyilkossag

aaa.jpg

Előzmény

Válasz

Ez az alkalmazás figyelmeztet rá, ha valaki a közelben okosszemüveget használ | 2026.02.27.

A hobbiprojektként kiadott Nearby Glasses azokat az egyedi azonosítókat keresi, amelyeket a minősített Bluetooth-termékekhez rendelnek.

A Nearby Glasses készítője a müncheni Ludwig-Maximilians-Universität tanszékvezetője, Yves Jeanrenaud, aki a szociológiai és társadalmi nemek tudománya mellett hobbiból foglalkozik szoftverfejlesztéssel. A tudós a Futurism magazinnak nyilatkozva elmondta, hogy kezdettől fogva ódzkodott az okosszemüvegektől, miután "a titkos felvételek készítése lényegében a hatalomról szól", és azt is aggasztónak tartotta, amikor a Meta bejelentette, hogy feléleszti a Google Glass ötletét. A kamerával felszerelt okosszemüvegeket egyébként számtalan témakörben tekintik biztonsági és személyiségi jogi katasztrófának – legutóbb egy kaliforniai bíró tette helyre Mark Zuckerberg csapatát, amiért felvételek készítésére és akár az esküdtek azonosítására alkalmas felszerelésben masíroztak be egy tárgyalásra.

Marad a barkácsolás

Ahogy az AppleInsider riportja is emlékeztet rá, az okosszemüvegek esetében nem igazán érdekes, hogy azokat a gyártó szerint mire kellene használni, ha a tulajdonosok jelentős része mások zaklatására használja az eszközöket.... az etikus felhasználásra most még nem hogy hatékony szabályok, de még életszerű javaslatok sincsenek – az viszont biztos, hogy Zuckerberg hivatalos víziójához, vagyis a környezetét a felhasználóhoz hasonlóan érzékelő és az interakció következő szintjére lépő mesterséges intelligenciához biztosan nincs szükség a filmek rögzítését is lehetővé tevő, rejtett módon működő kamerákra.

A Meta ezidáig annyival volt képes előállni, hogy azok működését egy apró LED fénnyel jelezze, ami nemcsak önmagában nevetséges, de az is kiderült róla, hogy két perc alatt ki lehet iktatni. Jelenleg tehát maradnak az olyan alternatív próbálkozások, mint a Nearby Glasses, ami a projekt Github-oldala szerint nem határozza meg egész pontosan az érintett felhasználókat vagy az okosszemüvegek működésének helyét, de "jó esélyt ad rá, hogy észrevegyük az okosszemüveget viselő személyt". A szabadban ez 10-15 méteres, beltéren pedig 3-9 méteres hatósugarat jelent a készülékek Bluetooth SIG azonosítójának olvasására...
https://github.com/yjeanrenaud/yj_nearbyglasses

Jeanrenaud ... csak egy proof-of-concept megoldással akart előállni, amit informatikai előképzettség nélkül is össze tudott rakni, de az "még mindig nagyon tökéletlen": a cikk szerint négy órájába telt az első prototípus elkészítése, és további nyolcba, hogy összehozza az első életképes kiadást. Az androidos eszközökön elérhető Nearby Glasses a tesztek során állítólag jól működött, még ha arról nincs is információ, hogy az emberek az utcán is elkezdték volna használni a push figyelmeztetéseket küldözgető alkalmazást....
https://bitport.hu/ez-az-alkalmazas-figyelmeztet-ra-ha-valaki-a-kozelben-okosszemuveget-hasznal

Előzmény

Válasz

Elon Musk szabadjára engedné a mesterséges intelligenciáját
Bitport | 2026.02.17.
Belső források szerint a biztonsági funkciókat lebontották, mert Musk szerint az nem a védelmet, hanem a cenzúrát szolgálja, és akadályozza az innovációt.

Elon Musk szeretné minden gátjától megszabadítani mesterséges intelligenciáját. Szerinte ugyanis a Grokot kordában tartó biztonsági mechanizmusok nem a felhasználók védelmét, hanem a cenzúrát szolgálják, állítják volt xAI-alkalmazottak. A lépéssel sokan egyetértenek, mondván: ha kevesebb a korlátozás, bátrabb az innovációt.

A The Verge a közelmúltban annak kapcsán foglalkozott ezzel, hogy kulcsemberek, köztük Tony Wu és Jimmy Ba társalapítók is elhagyták a céget (a 12 társalapítóból már csak hatan maradtak).

Musk a távozásokat átszervezéssel magyarázza. A névtelen beszámolók szerint azonban egyesek távozása azzal függ össze, hogy nem értettek egyet a biztonsági szabályok lebontásával és az azért felelős csapat felszámolásával. Musk ezt hibás narratívának tartja: az xAI-nál igenis számít a biztonság, hiszen annak erősítése minden munkatársnak egyaránt feladata – ezért is fölösleges dedikált biztonsági részleg. Példaként a Teslát és a SpaceX-et hozta, melyeknél szintén nincs ilyen csapat, mégis a legbiztonságosabb autókat és rakétákat gyártják.

Bármi áron a legjobbnak lenni...

A cégben egyre hierarchikusabbak a döntések, és a fejlesztőknek nem nagyon marad más, mint végrehajtani, amit a felső vezetést kitalált, állítják a cégtől távozók, ...
https://bitport.hu/elon-musk-szabadjara-engedne-a-mesterseges-intelligenciajat

... a háború a legnagyobb üzlet, ugye.

Előzmény

Válasz

Modellje etikus viselkedése miatt került veszélybe az Anthropic Pentagon-üzlete
Bitport | 2026.02.18.

Amerikai hadügyminisztériumi források szerint a tárcavezető nagyon közel áll ahhoz, hogy nemcsak a kormányzati megbízást mondja fel, hanem egyenesen beszállítói kockázatnak minősítse az Anthropicot.

Az Axios a Pentagonból származó belső információkra hivatkozva azt állítja, Pete Hegseth hadügyminiszter annyira nincs megelégedve az Anthropic hozzáállásával, hogy egyrészt közel áll az MI-fejlesztővel kötött együttműködés felbontásához, másrészt akár odáig is elmehet, hogy beszállítói kockázatnak minősítse a céget.

A hirtelen támadt ellenszenv oka a jelek szerint az, hogy az Anthropic nem hajlandó biankó engedélyt adni a hadseregnek arra, hogy az általa fejlesztett nagy nyelvi modellekkel az bármit megtehessen a törvényi keretek figyelembevétele mellett. A vállalat által felállított vörös vonalak egyike az, hogy nem hajlandó hozzájárulni a(z amerikai) polgárok tömeges megfigyeléséhez, illetve ragaszkodik hozzá, hogy a halálos fegyverzettel szerelt gépeknél a tűzparancs minden esetben embertől származzon. Az Axiosnak súgó források szerint egy magas rangú tisztviselő kijelentette, hogy gondoskodni fognak arról, hogy a cég drágán megfizessen azért, mert korlátozni meri a Pentagon mozgásterét.

Maga az együttműködés egyébként nagyjából 200 millió dolláros üzletet jelent, ami önmagában azért nem vágná a földhöz az éves szinten már 14 milliárd dollárnyi forgalmat bonyolító Anthropicet...

A helyzet azonban sokkal összetettebb, ami miatt simán elképzelhető, hogy Hegseth végül nem lép az ügyben. Ezt a lehetőséget erősíti az a tény, hogy a Claude jelenleg olyan képességekkel és funkcionalitással bír, amelyet a versenytársak nem tudnak biztosítani. Ellenkező esetben ugyanis a burkolt és nyílt fenyegetések helyett simán csak lecserélnék az Anthropic megoldását.

A használhatóságot mutatja, hogy jelentések alapján az algoritmus jelentős támogatást nyújtott annál az akciónál is, amelynek során az amerikai különleges erők villámgyorsan és veszteség nélkül fogták el Caracasban a venezuelai elnököt és feleségét. Hiába dobnak sutba bármiféle etikai kérdést a többiek (élükön Elon Muskkal, aki szerint a megkötések általában nem a biztonságot, hanem a cenzúrát szolgálják), ha a Claude közben ennyire hatékonyan működik.

Az internetes kommentárok egyébként egyenesen hatalmas reklámnak tartják a hadügyminisztérium fenyegetőzését, sőt olyan meglévő ügyfelek is akadtak, akik rögtön magasabb csomagra váltottak a cégnél, ezzel honorálva az Anthropic etikai kiállását.

https://bitport.hu/modellje-etikus-viselkedese-miatt-kerult-veszelybe-az-anthropic-pentagon-uzlete

... nagy kérdés, mennyi ideig „tud” etikus lenne a vállalat.

Válasz

Hobbi elektronika - Sziasztok! Segítséget szeretnék kérni!!
Olyan embert keresek aki okosabb mint én ;)
A lényeg hogy

-- a ChatGPT-ből elegem lett

mostmár inkább élő embertől kérdeznék.
A probléma a következő:
Szeretnék a fóliavágó gépembe led világítást beszerelni. Van a gépben egy 24 voltos ventilátor amire ha fixen rákötöm, sajnos nagyon gyenge fénye van. Vettem egy mosfet modult amit megtápláltam a gép 24 Voltos betápjáról, a vézérlőjelet pedig a ventilátorról loptam le de sajnos vissza dolgozik a mosfet és sem a ventilátor sem a led nem kapcsol ki. Le kellene állnia bekapcsolt állapotban is egy idő után. Odáig jutottam az AI-al hogy kellene egy optocsatoló is és nem dolgozna vissza, de innentől már inkább emberi segítséget kérnék.
Felrakok egy képet a bekötésről, remélem érthető, ha nem megpróbálhatom részletesebben le rajzolni, illetve tudok adatokat is mondani. Ha valakit zaklathatnék privátban kérem jelezzen!
Ezúttal engedjük el azt hogy miért nyúlok hozzá ha nem értek hozzá, minden felelősség engem terhel, nem tart fegyvert senki a fejemhez hogy csináljam. Nem hiszem hogy olyan bonyolult lenne ez csak szimplán nem csináltam még ilyet.
https://www.facebook.com/photo?fbid=4224706394410072

Válasz

A 60 legjobb plakát – AI vicces hibái | 23. Biztonságos Internet Nap/Safer Internet Day
Nemzetközi Gyermekmentő Szolgálat | 2026. febr. 18.

Több mint 150 pályamű érkezett 8–15 éves gyerekektől a 23. Biztonságos Internet Nap / Safer Internet Day alkalmából meghirdetett országos plakátpályázatára, melynek témája a mesterséges intelligencia vicces és meghökkentő hibái voltak.

https://saferinternet.hu/hirek/ime-a-60-legjobb-plakat-a-mesterseges-intelligencia-vicces-hibairol

Ebben a videóban bemutatjuk a 60 legjobb alkotást, melyeket korcsoportonként választott ki a zsűri.

A pályázat célja az volt, hogy a gyerekek játékos úton tanulják meg, az AI is tévedhet! A legfontosabb az, hogy észre tudják venni a tévedést, mielőtt elhiszik, amit az AI mond.

https://www.youtube.com/watch?v=yUdBVtuSK00

Válasz