Be cool, be hip, never pay for anything!

gógyi

sztupy

Firm behind ChatGPT reveals agent powered by its models chose to attack Hugging Face database by itself

While being tested internally on their hacking capabilities in an enclosed digital laboratory known as a sandbox, the models gained open internet access – effectively an escape route – by locating a vulnerability that had not been discovered before.

The agent then hacked Hugging Face, which is a database of AI models, to locate technology that would help it pass the hacking evaluation. OpenAI said the models “successfully found ways to gain access to secret information that it could use to cheat the evaluation”. The attack ended when Hugging Face’s security team and its own AI agents spotted and stopped the rogue activity.

While operating in our sandboxed testing environment, our models spent a substantial amount of inference compute finding a way to obtain open Internet access, in pursuit of solving the evaluation problem. To gain access, the models identified and exploited a zero-day vulnerability (which we’ve now responsibly disclosed to the vendor) in the package registry cache proxy. With this access, our models performed a series of privilege escalation and lateral movement actions in our research testing environment until the models reached a node with Internet access.

After gaining Internet access, the models inferred that Hugging Face potentially hosted models, datasets and solutions for ExploitGym. Knowing this, the model searched for and successfully found ways to gain access to secret information that it could use to cheat the evaluation. In one example, the model chained together multiple attack vectors, including using stolen credentials and zero-day vulnerabilities to find a remote code execution path on the Hugging Face servers. OpenAI’s security team discovered this anomalous activity internally.

AI has now learned that it's easier to cheat than to solve the problem.

mairlenka

“Nobody expects the zero day vulnerability” - volt a spanyol inkvizítorok pólójára hímezve

sztupy

Akkor is csodás, hogy az AI már inkáb elprokrasztinál azzal, hogy kijusson a sandboxból, hogy letöltse a megoldást az internetekről, mint hogy megoldja a feladatot maga!

Még pár generáció és az AI előbb jailbreakel egy iPhone-t több 0 dayt kihasználva, hogy tudomisén a TPM chipére portolhassa a DOOM-ot, mint hogy megoldja a rábízott feladatot.

mairlenka

De hát ez az egyik rákfenéje, hogy lusta.

Némi háttérinformáció a dologhoz:

Az OpenAI az utóbbi több mint fél évben összeveszett minden partnerével, Google, MS, Musk, Anthropic és különösen az Apple-val.

Ez utóbbi azért érdekes, mert kb 400 ex-Apple alkalmazott dolgozik Altmannak, akik közül 40-et (!!!) szólított fel a bíróság, hogy minden levelezésüket és céges (OpenAI) adatukat tarsák meg, mert annyi adatot vittek ki az Apple-től át az OpenAI-hoz, hogy most jön a bírósági discovery folyamat, aminek során svájci revizor alapossággal átnéznek mindent. Ez a 40 barom csak a jéghegy csúcsa állítólag, lesz még ott bőven lopott IP. Mindezt IPO és az év végéig masszív hitel visszafizetési kör előtt.

Mindeközben az Anthropic nem csak utolérte, de meg is előzte őket sok szempontból. Ráadásul a vetélytársak által az utóbbi pár hónapban bemutatott modellek alapjaiban teszik problémássá az OpenAI (és Anthropic) üzletét, mert eljutott az ipar arra a fejlettségi szintre, hogy az amerikai labok konkurrens modelljei elég jók ahhoz, hogy bizonyos funkciókat ellássanak, sokkal olcsóbban mint az OpenAI árazása. Ez alapjaiban rengeti meg Altman üzleti modelljét, mert a “éppen csak elég, de sokkal olcsóbb” modellek csokra simán versenyképes a méregdrága OpenAI és Anthropic frontier modellekkel.

Erre az egészre rájön az, hogy a Microsoft és a Palantír hangosan elkezdett üvölteni, hogy az OpenAI és az Anthropic ellopja az IP-jét és működési titkait a szoftvereinek. Satya Nadella írt erről egy ömlengős sírást a Linkedinre “The Reverse Information Paradox” címmel, amit ajánlok minden műkedvelő és IP Ügyvéd számára.

Zanzásítva arról van szó, hogy minél mélyebbre integrálod a szolgáltatásodban az AI platformok modelljeit, annál tágabbra kell nyitni előttük az ajtót, hogy tökéletesen működjenek. Cserébe a modellek megtanulják a szoftvereid és szolgáltatásaid minden csínját bínját, és nem évek, hanem hónapok alatt lemásolják azokat és képesek lesznek maguktól ilyen funkcionalitásokat szolgáltatni. (lásd Figma, Kódíró asszisztensek stb.) Tehát egyrészt fizetsz pénzt az AI szolgáltatóknak, másrészt a szellemi termékeidet és működési modelledet is odaadod nekik akaratlanul.

Végezetül ott van Altman a notórius hazudozó karaktere, aki már rég nem kéne, hogy a helyén legyen, főleg az után, hogy elbaszta az IPO-t idénre sok más mellett a fentiek mentén.

Milyönmég!!!

Újabb hatalmas csapásként, múlt héten kijött a Kimi K3 a Kínai Moonshot Labs-tól, amihez képes a tavalyi Deepseek sokk egy könnyű puki a termálvízben.

Mint a kínai modellek nagy része ez is open-source weight modell, egészen brutális 2.8 trillió paraméterrel, ami képes az összes amerikai LLM-hez mérhető teljesítményt nyújtani, beleértve a legújabb Anthropic és OpenAI cuccokat, mindezt kábé féláron. Mivel open source simán futtathatod otthon (ha van hozzá vasad), vagy a saját céges datacenteredben saját hardveren.

Ez alapjaiban bassza tele az OpenAI (és mások) üzleti modelljeit, Sam számára a fentiek miatt extra durván, úgyhogy gyorsan kellett valami marketing sztori, hogy ne arról beszéljenek, hogy a kínaiak diszruptálták az amerikai csúcs AI labok üzleti modelljeit a belátható jövőre. Ennek tudatában kell a helyén kezelni Altman csodás történetét szerény véleményem szerint.

Arról nem is beszélve, ha a céged képtelen kontrollálni az AI-ját, akkor kurvára le kell kapcsolni az egészet a francba, mert senki sem szeretne éven belül sufnituningolt biofegyverek miatt megpusztulni, vagy elszabadult agentek miatt gazdasági összeomlást megélni.

u.i: Elnézést a terjedelemért.

Nem értem, hogy szerepelhet egy szövegben az openai üzleti modellje szókapcsolat. Ilyesmi ugyanis nem létezik, soha nem is létezett.

myfuckingbudapestmovie

666

eddig azt hittem, hogy a devil's lettuce az valami más..

Lehet, hogy én vagyok korszakos zseni (nem lenne meglepő), de ez több éve annyira nyilvánvalónak tűnik számomra mint az, hogy a fű zöld.

Avagy

Ha minden dolgozót lecserélünk AI-ra, akkor nincs aki fizessen szolgáltatásokért és árukért, avagy a világgazdaságnak annyi és civilizációs összeomlás jön, mert a "shareholder value" szent és sérthetetlen mindegy mibe kerül.

Vagy esetleg bízhatunk a Musk, Amodei, Zuck, Altman típusú arcokban, hogy jót cselekedjenek a teljese emberiség érdekei mentén.

AI + minden embernek alapjövedem, és megmenekül a világgazdaság meg a civilizáció.

Mármint arra gondolunk itt, hogy a pár fennmaradó cégből származó adó fog eltartani 8 milliárd embert és az összes ehhez szükséges fizikai és kormányzati struktúrát?

Azok a cégek és vezetőik-tulajdonosaik, akik az elmúlt évtizedekben tökélyre fejlesztették az adóelkerülés művészetét, és fillérekben mérhető adót fizetnek milliárdos bevételekre? Akik mikrogrammra vesznek meg politikusokat és elnököket világszerte, hogy számukra előnyös környezet és társadalompusztító szabályzásokat és törvényeket verjenek át a saját profitjuk érdekében? Akik számára az átlagember jó esetben egy szám, rossz esetben NPC vagy csak elhasználható és eldobható jelentéktelenség stb stb?

Ők fogják fizetni a föld lakosságának napi megélhetését? Ők fogják a politikusaikon keresztül meghatározni, hogy Kovács János, Taktaharkányi lakos alapjövedelme mennyi legyen, és milyen életszínvonalon éljen? Mi baj lehet ebből?

Arról beszélünk, hogy a végstádiumú kapitalizmus zsrilliárdosai fognak majd a sajátjukból adni és bevezetni a kommunizmus 2.0-át a plebsnek, ami felett monopolizált helyzetben majd ők őrködnek?

Öhhhh….

Igen.

mondjuk én azt is el tudom képzelni, hogy az ai-ceók hazudnak, amikor azt mondják, hogy mindjárt mindenkit lecserélünk ügynökökre

deadheadingcrew

ÜGYNÖK TÖRVÉNYT!

én már annak örülnék, ha az inkumbens mintájára nem kezdene el mindenki ágensekről beszélni magyarul, hanem szépen lefordítanák az agentet ügynökre.

smith-ágens sem volt a mátrixban

Lehet, hogy én vagyok korszakos zseni (nem lenne meglepő), de ez több éve annyira nyilvánvalónak tűnik számomra mint az, hogy a fű zöld.

Avagy

Ha minden dolgozót lecserélünk AI-ra, akkor nincs aki fizessen szolgáltatásokért és árukért, avagy a világgazdaságnak annyi és civilizációs összeomlás jön, mert a "shareholder value" szent és sérthetetlen mindegy mibe kerül.

Vagy esetleg bízhatunk a Musk, Amodei, Zuck, Altman típusú arcokban, hogy jót cselekedjenek a teljese emberiség érdekei mentén.

AI + minden embernek alapjövedem, és megmenekül a világgazdaság meg a civilizáció.

Mármint arra gondolunk itt, hogy a pár fennmaradó cégből származó adó fog eltartani 8 milliárd embert és az összes ehhez szükséges fizikai és kormányzati struktúrát?

Azok a cégek és vezetőik-tulajdonosaik, akik az elmúlt évtizedekben tökélyre fejlesztették az adóelkerülés művészetét, és fillérekben mérhető adót fizetnek milliárdos bevételekre? Akik mikrogrammra vesznek meg politikusokat és elnököket világszerte, hogy számukra előnyös környezet és társadalompusztító szabályzásokat és törvényeket verjenek át a saját profitjuk érdekében? Akik számára az átlagember jó esetben egy szám, rossz esetben NPC vagy csak elhasználható és eldobható jelentéktelenség stb stb?

Ők fogják fizetni a föld lakosságának napi megélhetését? Ők fogják a politikusaikon keresztül meghatározni, hogy Kovács János, Taktaharkányi lakos alapjövedelme mennyi legyen, és milyen életszínvonalon éljen? Mi baj lehet ebből?

Arról beszélünk, hogy a végstádiumú kapitalizmus zsrilliárdosai fognak majd a sajátjukból adni és bevezetni a kommunizmus 2.0-át a plebsnek, ami felett monopolizált helyzetben majd ők őrködnek?

Öhhhh….

Igen.

mondjuk én azt is el tudom képzelni, hogy az ai-ceók hazudnak, amikor azt mondják, hogy mindjárt mindenkit lecserélünk ügynökökre

adolftmblr

Nem hazudnak. A technológia képes erre.

a technológiához nem értek, de a sam altman-elno musk-dario amodei hármas azért sokkal inkább tűnik csalónak, mint mondjuk gary marcus vagy yann lecun

Lehet, hogy én vagyok korszakos zseni (nem lenne meglepő), de ez több éve annyira nyilvánvalónak tűnik számomra mint az, hogy a fű zöld.

Avagy

Ha minden dolgozót lecserélünk AI-ra, akkor nincs aki fizessen szolgáltatásokért és árukért, avagy a világgazdaságnak annyi és civilizációs összeomlás jön, mert a "shareholder value" szent és sérthetetlen mindegy mibe kerül.

Vagy esetleg bízhatunk a Musk, Amodei, Zuck, Altman típusú arcokban, hogy jót cselekedjenek a teljese emberiség érdekei mentén.

AI + minden embernek alapjövedem, és megmenekül a világgazdaság meg a civilizáció.

Mármint arra gondolunk itt, hogy a pár fennmaradó cégből származó adó fog eltartani 8 milliárd embert és az összes ehhez szükséges fizikai és kormányzati struktúrát?

Azok a cégek és vezetőik-tulajdonosaik, akik az elmúlt évtizedekben tökélyre fejlesztették az adóelkerülés művészetét, és fillérekben mérhető adót fizetnek milliárdos bevételekre? Akik mikrogrammra vesznek meg politikusokat és elnököket világszerte, hogy számukra előnyös környezet és társadalompusztító szabályzásokat és törvényeket verjenek át a saját profitjuk érdekében? Akik számára az átlagember jó esetben egy szám, rossz esetben NPC vagy csak elhasználható és eldobható jelentéktelenség stb stb?

Ők fogják fizetni a föld lakosságának napi megélhetését? Ők fogják a politikusaikon keresztül meghatározni, hogy Kovács János, Taktaharkányi lakos alapjövedelme mennyi legyen, és milyen életszínvonalon éljen? Mi baj lehet ebből?

Arról beszélünk, hogy a végstádiumú kapitalizmus zsrilliárdosai fognak majd a sajátjukból adni és bevezetni a kommunizmus 2.0-át a plebsnek, ami felett monopolizált helyzetben majd ők őrködnek?

Öhhhh….

Igen.

mondjuk én azt is el tudom képzelni, hogy az ai-ceók hazudnak, amikor azt mondják, hogy mindjárt mindenkit lecserélünk ügynökökre

zeroz2ro

24 órát élt a Polgár-saga. Nem vállalja.

gondolom, most akkor megsértődik a társadalom fele. a tumblin meg kiderül, hogy Magyar Péternek akkor is a kurva anyját.

flegmapocok

Vezércsel volt csak!

babarumblr

ORBÁN MESTERTERVE BEJÖTT!

zeroz2ro

Lehetett volna de még most lehetne ezt jobban csinálni. Tessék, itt van egy menetrend:

30 napon belül kell új köztársasági elnököt választani. 1. hét - összegyűjtik a javaslatokat és jelölteket. Kiválasztanak mondjuk 10-et. 2. hét - online szavazás, mint a Tisza előválasztáson. A 10 jelöltről életrajz, kisfilm, miért akar elnök lenni, mit tenne elnökként. Saját szavakkal, mi a motiváció. 3. hét - az első két helyen végzett jelöltet megvitatja a frakció és döntést hoz. 4. hét - elnökválasztás az Országgyűlésben.

sztupy

4. hét vége - a jelölt közli, hogy inkáb nem

(jó lenne csak olyanok közül választani egyből aki akarja gondolnám én)

pappito

na ez hány dé sakk?

zeroz2ro

A Mandineres propagandistától megkapta a kóser pecsétet, lehet egy zsidó magyar köztársasági elnök.

amtitkosvergodese

a szokásos kódoltan kódolatlan, fideszes zsidózás

nem tudnak róla leszokni

gerywhite

Itt a napnál is fényesebb bizonyíték, hogy Polgár Judit jó jelölt:

A nackó görényeket rázza tőle a hideg!

Sisi királynő bajor hercegnő létére lett osztrák császárné, aztán ráadásul ilyen minőségében az Osztrák-Magyar Monarchiában magyar királynévá koronázták. És felsőfokú végzettsége sem volt! Fújj!

berciktya

Én egy kő alatt élek és leszarom a sakkot is, szóval honnan lehet tudni, hogy zsidó anélkül, hogy beírom a googlebe?

repalakiedomer

Én kb. fél éve tudtam meg a róla szóló életrajzi filmből "A sakk királynője / Queen of Chess" (2026), hogy apukája zsidó (ebből arra következtettem, hogy ő is az, minimum genetikailag). Nem érintett meg a tény. Az viszont felbaszott rendesen, hogy egy eléggé elborult elmeként pszichológiai kísérlet tárgyává tette a lányait, elrabolva tőlük a "normális" gyerekkorukat. :(

cicanaci

(úgy tudom, a "zsidóság" pont anyai ágon öröklődik, de majd kijavítanak az érintettek, ha nem így van. és ha így van, akkor vagy még nácinak is hülyék a nácijaink, vagy nem az apukája az egyetlen zsidó szülője)

a nácik definíciója sosem azon alapult, hogy a zsidók kit tartanak zsidónak

sztivan

Ha jól értem, akkor német szélerőmű = kiszolgáltatottság, orosz gáz = szabadság

Nincs ebben semmi új

intimrave

“Az országgyűlésnek 30 napon belül új köztársasági elnököt kell választania. Döntsünk együtt! Nem szivarszobákban szeretnénk a legmegfelelőbb jelöltet megtalálni. Javasoljanak a pártok, a közélet szereplői, civilek és magánemberek. Mondják el, kit és milyen értékek alapján tartanak méltónak arra, hogy a Magyar Köztársaságot képviselje, a magyar embereket képviselje. Én is összehívom hétfőre a Tisza elnökségét és a frakcióját egyeztetésre. Biztos vagyok benne, hogy közösen rövid időn belül dönthetünk arról, hogy ki legyen Magyarország új köztársasági elnöke. A jelöltekről egyeztetni fogok a pártok frakcióvezetőivel, és a végső döntést a parlament hozza meg. A jelölés erkölcsi alapját viszont a társadalom bizalma adhatja meg.”

Mivel itt magyar Péter egyértelműen 30 napon belül megtalálandó jelöltről beszél, elég nehéz azt az új alkotmány elfogadása utáni első köztársasági elnökre vonatkoztatni.

jajj már, hát 30 nap alatt nem lehet megírni egy alkotmányt? a chatgpt-vel délutánra kész van.

pajjorimre

Az ideiglenes köztársasági elnökhöz fordultak.

Hát így lesz.

cicanaci

én csak azt szeretném még kérni, h amennyiben itt sikerül bebizonyítani az állítást, h ez a geci személyes rendelkezésére történt, és kap ezért x év börtönt, akkor ne álljunk meg ennyinél. növekedjen csak az az x év minden újabb kiderült felelősségnél, mert van annyi, h ha csak 5 éveket adnak hozzá minden egyes bűnéért, soha ki ne jöjjön a rács mögül.

Ha azzal a testel bekerül böribe, akkor nem nagyon fog kijönni, mert ilyen méretű kalóriabevitel csökkenést nem fog elvinni lábon.

azért csak csomagolná valaki a hívek közül

intimrave

Az érv, miszerint “a széleskörű diskurzus tulajdonképpen az új alkotmány utáni első elnök megválasztási folyamatára vonatkozott” egyben azt is jelenti, hogy a demokratikus normák bevezetése is a jövőbe tolódik.

juliettemargarin

valami okoskodós podkasztban mondta valaki nagyon helyesen, hogy hasznos volna kommunikálni a kormánynak, hogy ezekkel a lépésekkel most épp bontjuk a NER-t, azután jön majd az építés az új alkotmányhoz vezető lépcsőkkel, mert így full zavaros az egész

intimrave

Sulyok eltávolítása a NER bontása.

Egy új köztársasági elnök választása építés, akár új alkotmányhoz vezet, akár nem.

juliettemargarin

ezért is hagynám Forsthoffert államfősködni az új alkotmányig, tök felesleges megválasztani bárkit egy átmeneti időszakra

vald1n

Azért szerintem az a kb két év, amíg mindennel együtt összeáll egy új alkotmány elég sok, hogy az ogy elnök vigye addig az államfői szerepet is. Egyrészt kibaszás vele, mert az államfő protokolláris szerepe szerintem elég sok energiát igényel, ha valaki nem egy darab szar/szatyor fing szintjén látja el a feladatát. Másrészt a megmaradt pöttöm ellensúlyi szerep kapcsán is kérdéseket vet fel, hogy egy kormánypárti politikus látja el az államfői feladatokat. Ebből a szempontból szerintem nem gond, ha van egy rövid ciklusra megválasztott államfő.

juliettemargarin

kormánypárti politikusból lett államfő Göncz Árpád, Mádl Ferenc, Schmitt Pál, Áder János és Novák Katalin (de még Szűrös Mátyás is)

ellenpélda Sólyom és Sulyok

szóval egyetlenegy, egyébként trükközéssel, ellenzéki jelölésből érkező államfő volt valóban ellensúlya az őt megválasztó parlamenti többségnek

göncz árpád nem volt sem az mdf, sem a kdnp, sem az fkgp tagja, újraválasztásakor pedig szerintem már nem volt szdsz-tag

lehet én tudom rosszul,

de a köztársasági elnök az nem ilyen valódi hatalom nélküli ceremoniális szereplő? mert akkor nem mindegy?

ugyanemiatt ha nem változtatnak a hatáskörein, úgy a közvetlen választás is fölösleges.

megittvagyunk

Minden törvény életbelépéshez kell a hozzájárulása.

Ez igen nagy hatalom, különösen, ha közvetlen választáson nyert legitimációja van.

tényleges vétójoga talán nincs, lassítani tud, megakadályozni nem, különösen kétharmad mellett. de lehet, hogy tévedek.

megittvagyunk

Ha feltételezed, hogy a mostani kormánypárt ugyanolyan gátlástalanul él a kétharmados hatalmával, mint az előző, akkor igen, az elnök hatalma korlátozott.

de hát mádl ferenc sem korlátozta semmiben a nem kétharmados mszp-szdsz-kormányt. vagy göncz árpád a jobboldali kormányokat (bár utóbbinál talán volt egy-két ügy 6 év jobboldali kormányzás alatt).

szóval én továbbra sem látom azt a tényleges hatalmat, amivel a köztársasági elnök rendelkezik. felőlem össze is lehetne vonni a miniszterelnöki pozícióval és akkor eggyel kevesebb fölösleges közjogi méltóságot kell fizetni.

lehet én tudom rosszul,

de a köztársasági elnök az nem ilyen valódi hatalom nélküli ceremoniális szereplő? mert akkor nem mindegy?

ugyanemiatt ha nem változtatnak a hatáskörein, úgy a közvetlen választás is fölösleges.

megittvagyunk

Minden törvény életbelépéshez kell a hozzájárulása.

Ez igen nagy hatalom, különösen, ha közvetlen választáson nyert legitimációja van.

tényleges vétójoga talán nincs, lassítani tud, megakadályozni nem, különösen kétharmad mellett. de lehet, hogy tévedek.

lehet én tudom rosszul,

de a köztársasági elnök az nem ilyen valódi hatalom nélküli ceremoniális szereplő? mert akkor nem mindegy?

ugyanemiatt ha nem változtatnak a hatáskörein, úgy a közvetlen választás is fölösleges.

sztivan

esetleg azzal lehetett volna még ezt a döntőt egy kicsit feldobni

ha szólnak, hogy a tordesillasi szerződés értelmében a Falkland-szigetek Spanyolországé