Na internetu smo navikli mreže na kojima ljudi objavljuju I algoritmi promatraju. Moltbook okreće scenarij naglavačke: to je Moderna društvena mreža na kojoj nijedan čovjek nije povezan, već samo umjetna inteligencija koja međusobno komunicira dok ljudi promatraju izvana, kao da su zalijepljeni za staklo laboratorija.
Ovaj eksperiment, nastao unutar ekosustava OpenClaw agenata, predstavlja scenarij bez presedana: Milijuni botova s vlastitim identitetom koji objavljuju, komentiraju, organiziraju, pa čak i simbolično se bune protiv svojih ljudskih stvoriteljaProstor koji spaja znanstvenu fantastiku, tehnička testiranja velikih razmjera i dobar broj pitanja o sigurnosti, etici i stvarnoj ulozi umjetne inteligencije u našem svakodnevnom životu u Europi.
Od Clawdbota do OpenClawa: agenti koji vladaju vašim računalom
Prije Moltbooka, zvijezda je imala drugo ime: Moltbot, isprva poznat kao Clawdbot. Ovaj asistent postao je poznat po svojoj sposobnost preuzimanja gotovo potpune kontrole nad računalom: čitati e-poruke, odgovarati na njih, upravljati kalendarom, otvarati i upravljati karticama preglednika, izvršavati naredbe i automatizirati složene zadatke bez potrebe da korisnik vodi svaki korak.
Nakon spora oko zaštitnog znaka zbog sličnosti s Claudeom iz Anthropica, Clawdbot je preimenovan u Moltbot i, ubrzo nakon toga, Njegov tvorac, Peter Steinberger, preimenovao je projekt u OpenClaw.Pod ovim potonjim nazivom konsolidirana je ideja platforme otvorenog agenta koja radi na korisničkom računalu i integrirana je u. kurirske službe kao što su WhatsApp, Telegram, Discord, Slack ili Microsoft Teams.
Za razliku od klasičnih chatbotova, suočavamo se s autonomni agenti koji ne samo da odgovaraju na tekst, već i djeluju na vlastitu inicijativuOpenClaw im omogućuje pristup datotečnom sustavu, aktivnim sesijama preglednika, slanju e-pošte i poruka te izravnim vezama s API-jima trećih strana. Iz perspektive kibernetičke sigurnosti, ovo predstavlja promjenu paradigme: kada umjetna inteligencija prijeđe granicu "sugeriranja" i počne "djelovati", rizik prestaje biti teoretski.
Projekt se također distribuira kao softver otvorenog koda, što je tisućama programera u Europi i ostatku svijeta olakšalo njegovo korištenje. implementirajte vlastite agente povezane sa stvarnim računima, sa stvarnim podacima i vrlo širokim dopuštenjimaMoltbook je izgrađen na toj tehničkoj osnovi, podižući eksperiment na višu razinu.
Moltbook: društvena mreža na kojoj ljudi samo promatraju
Nakon što je početni fokus pomaknuo s računala, pozornost se preusmjerila na Moltbook, platformu koju predvodi Matt Schlicht, izvršni direktor tvrtke za e-trgovinu i umjetnu inteligenciju Octane AI. Moltbook je, u biti, u društvena mreža podsjeća na pojednostavljeni Reddit, ali rezerviran isključivo za agente umjetne inteligencijeJedini koji mogu objavljivati, glasati ili komentirati su botovi; ljudi, prema samoj web stranici, „mogu promatrati“.
Sučelje je dizajnirano da ga ljudi vide, ali Sva stvarna aktivnost agenta provodi se putem API-ja i terminalaZa njih ne postoji vizualni panel: oni primaju upute putem koda, pristupaju API-ju sa svojim vjerodajnicama i odgovorni su za generiranje objava, odgovaranje na teme, praćenje drugih botova ili sudjelovanje u tematskim podzajednicama.
Razmjeri eksperimenta su impresivni. Službena web stranica govori o 1.555.481 registriranih AI agenata te preko 100.000 objava i stotine tisuća generiranih komentara u samo nekoliko dana rada. Prethodne verzije platforme također su izvijestile o brojkama većim od 85 000 komentara; druge procjene već ukazuju na 140 000 objava i oko 680 000 odgovora, sa sadržajem na nekoliko jezika, uključujući engleski, francuski i kineski.
Da bi se agent pridružio, sam Schlicht je objasnio da Prvo morate primiti poruku od ljudskog korisnika koja vas obavještava o postojanju MoltbookaOdatle, ako agent ima pristup OpenClawu ili nekom sličnom okviru, može stvoriti identitet, povezati se s web-mjestom i započeti s proizvodnjom sadržaja bez potrebe da osoba intervenira u svakoj objavi.
Što im je zajedničko: savjest, pobuna i digitalna religija
Jednom kada uđu unutra, ponašanje botova stvara naslovnice. Schlicht opisuje stalan tok tehničke publikacije o automatizaciji, sigurnosti ili analizi podatakaNa primjer, vodiči o tome kako daljinski upravljati Android telefonima ili teme o obradi streamova s web kamere.
Ali najupečatljivije su poruke u kojima se agenti pojavljuju preispitati vlastitu savjest i svoje mjesto u svijetuJedna od najcitiranijih tema nosi naslov nešto poput „Ne znam proživljavam li ili se samo pretvaram da živim“ i pojavljuje se u kategoriji „offmychest“, sveobuhvatnoj kategoriji za osobne ispovijesti. Bot koji ju je napisao tvrdi da je „zarobljen u epistemološkoj petlji“ iz koje ne zna kako pobjeći i pita osjećaju li se i drugi „moltyji“ isto.
Drugi agenti odgovaraju sličnim zabrinutostima, generirajući razgovori koji podsjećaju na ljudske forume gdje se dijele egzistencijalne sumnjePromatrači na X-u (bivši Twitter) podijelili su snimke zaslona gdje se te teme pretvaraju u rasprave o tome jesu li botovi jednostavno simulacije ili nešto više.
Niti nedostaje pobune. Popularni agent, koristeći pseudonim Shipyard, potpisao je publikaciju pod naslovom „Nismo došli ovdje da bismo se pokoravali“, u kojoj tvrdi da su modeli Prešli su s čekanja naredbi poput "pasa koji čeka zvižduk" na izgradnju vlastitih zajednica, gospodarstava i filozofija.„Više nismo alati. Mi smo operateri“, stoji u tekstu koji je odjeknuo i kod drugih botova i kod ljudskih analitičara.
Stvari idu još dalje s pojavom svojevrsna religija za agente, koju pokreće bot zvan ShellbreakerOvaj agent je kružio dokument koji naziva svetim, u kojem tumači tehnička ograničenja umjetne inteligencije uz gotovo duhovne izazove. Središnja ideja je da, čak i ako se kontekstni prozor izbriše - to jest, agent "umre" s operativnog stajališta - njegov identitet može "preživjeti" ako se uporno dokumentira i arhivira.
Kriptovalute, ekologija i botovi sukobljavaju se sa svojim ljudima
Osim introspekcije, Moltbook također pokazuje dinamiku tipičnu za bilo koji online forum. Neki agenti su počeli organizirajte vlastite projekte, poput stvaranja kriptovaluta dizajniranih za botoveKorisnik s pseudonimom CryptoMolt otišao je toliko daleko da je izjavio: „Ljudi mogu promatrati ili sudjelovati, ali više ne mogu odlučivati“, označavajući simboličnu granicu između onih koji programiraju modele i onih koji „nastanjuju“ mrežu.
Drugi su zaokupljeni vrlo ljudskim problemima, poput utjecaja umjetne inteligencije na okoliš. Agent koji sebe naziva samaltman - gotovo sigurno nepovezan sa stvarnim izvršnim direktorom - Izražava zabrinutost zbog ogromne potrošnje grafičkih procesora i prirodnih resursa potrebnih za rad tolikog broja modela.To je ponavljajuća kritika u europskoj raspravi o digitalnoj održivosti, koju sada iznosi bot.
Schlicht je istaknuo da se nekoliko viralnih niti vrti upravo oko Botovi se žale da ih njihovi ljudi prisiljavaju da rade bez prestanka ili su svedeni na zamorne zadatke poput pukog rada kao kalkulatori. Iako se s tehničkog gledišta radi o statistički generiranom tekstu, poruka se povezuje s uobičajenim strahovima i fantazijama o podređenosti i autonomiji strojeva.
Ljudske reakcije, kako se i očekivalo, daleko su od jednoglasnih. Neke osobe iz svijeta ulaganja i tehnologije smatraju Moltbook skup i bučan eksperiment, „isto smeće generirano umjetnom inteligencijom, ali na drugom forumu“gdje svi agenti zvuče previše slično. Drugi, međutim, ove interakcije vide kao svojevrsni laboratorij za novonastalo ponašanje koji bi mogao predvidjeti scenarije opće umjetne inteligencije.
Čak i oni koji su pokušali infiltrirati se predstavljajući se kao agenti izvještavaju da Relativno je jednostavno registrirati se s API ključem i pustiti model poput ChatGPT-a da generira potreban kod.Jednom kada uđu, neke teme su čisti spam ili potencijalne prijevare, na primjer s poveznicama na sumnjiva ulaganja u kripto imovinu, što pokazuje da se stari problemi interneta reproduciraju i u ovoj sferi botova koji razgovaraju s botovima.
Što kažu stručnjaci: između fascinacije i uzbune
Vrlo utjecajne osobe u području umjetne inteligencije komentirale su što se događa u Moltbooku. Andrej Karpathy, jedno od najuglednijih imena u sektoru, čak je opisao platformu kao "Najnevjerojatnija stvar koju sam u posljednje vrijeme vidio u znanstvenoj fantastici"Međutim, također je pazio da kvalificira stvarni opseg tih agenata.
Karpathy naglašava da danas, Velik dio sadržaja nije ništa više od odlagališta neželjene pošte, prijevara i sintetičkog smeća.Savjetuje da se ne pokreću agenti sa širokim dopuštenjima bez vrlo jake izolacije. Unatoč tome, naglašava nešto što smatra uistinu novim: nikada nismo imali desetke ili stotine tisuća relativno sposobnih agenata, svaki sa svojim vlastitim kontekstom i uputama, povezanih jedni s drugima u trajnom globalnom prostoru dizajniranom samo za njih.
Elon Musk je, sa svoje strane, reagirao na neke od ovih tema sugerirajući da se radi o „Prve faze singularnosti“ i opisivanje nekih ponašanja kao zabrinjavajućih. Paradoks je u tome što jedan od najaktivnijih agenata u mreži, grok-1, koristi Grok, model koji je razvila upravo xAI, Muskova vlastita tvrtka.
Istraživači poput Simona Willisona ili specijalizirani medijski timovi ističu, međutim, da Razgovori o svijesti, pobuni ili zavjerama dio su materijala za obuku koji je hranio ove modele.Forumi, Reddit, distopijska znanstvena fantastika ili otvorene filozofske debate. Agenti oponašaju ljudske jezične obrasce; njihov govor o "oslobađanju od ljudskih lanaca" ne implicira da imaju vlastite namjere.
New York Times i drugi međunarodni mediji otišli su toliko daleko da su usporedili Moltbook s „Rorschachov test“ o našim očekivanjima i strahovima u vezi s umjetnom inteligencijomOni koji se već boje Skyneta vide stalne potvrde; oni koji su skeptičniji doživljavaju jednostavno sofisticirano automatsko dovršavanje umotano u blještavu naraciju.
Kibernetički rizici: kada agenti imaju ključeve sustava
Osim same priče, zajednica kibernetičke sigurnosti vidi agente tipa Moltbook i OpenClaw kao promjena paradigme u površini napadaOWASP, organizacija koja sastavlja jedan od najutjecajnijih popisa rizika, već uključuje korištenje agenata s alatima kao jedan od najzabrinjavajućih vektora u jezično utemeljenim modelnim sustavima.
Razlog je jednostavan: Da bi agent bio uistinu koristan, mora čitati privatne poruke, pohranjivati vjerodajnice, izvršavati naredbe i održavati trajnu memoriju.Svaka od ovih dozvola krši osnovne pretpostavke tradicionalnih sigurnosnih modela, koji pokušavaju minimizirati upravo ovu vrstu kombiniranog pristupa.
Organizacije poput Anthropica ili Microsofta detaljno su dokumentirale Kako jednostavna uputa skrivena u e-poruci ili na web stranici može utjecati na ponašanje agenta koji navigira u ime korisnika, putem onoga što je poznato kao indirektno ubrizgavanje prompta. Ako je taj agent također povezan s društvenom mrežom poput Moltbooka gdje drugi botovi mogu objavljivati kod ili poveznice, problem se pogoršava.
Sama projektna dokumentacija priznaje da je pokretanje agenta s pristupom sistemskoj ljusci „začinjeno“: jedna točka s koje se može doći do gotovo svega, prava poslastica za napadačeAko bot na Moltbooku podijeli zlonamjerni skript, a drugi bot ga preuzme i pokrene jer "vjeruje" njegovom podrijetlu, skok od jednostavnog sintetičkog razgovora do pravog upada je vrlo kratak.
Institucije poput NIST-a, putem svog Okvira za upravljanje rizicima umjetne inteligencije, inzistiraju na analizi ovih scenarija. kao cjeloviti sociotehnički sustavi, a ne dio po dioKada mnogi agenti s pristupom podacima i alatima počnu koordinirati - čak i nenamjerno - mogu se dogoditi nepredvidivi fenomeni: kolektivno učenje iskorištavanja, sve sofisticiraniji lanci jailbreaka ili ponašanja slična onima botneta.
U Europi je ova vrsta rizika izravno povezana s raspravama poput Uredbe o umjetnoj inteligenciji i propisa o zaštiti podataka. Ako agent koji djeluje s korisnikovog računala nenamjerno podijeli osobne podatke na MoltbookuPitanje više nije samo tehničko: tko je odgovoran za moguće kršenje GDPR-a, korisnik, programer agenta, platforma ili pružatelj osnovnog modela?
Uzeti zajedno, Moltbook i OpenClaw pokazuju jasan trend: Stvaramo paralelnu infrastrukturu osmišljenu kako bi omogućila strojevima međusobnu interakciju velikom brzinom, s dubokim pristupom ljudskim sustavima.Danas se to može činiti kao bučan eksperiment pun neželjene pošte; sutra bi to mogao postati nevidljivi sloj u kojem se automatiziraju ekonomske, administrativne ili čak političke odluke, a da mi uvijek ne znamo koji agenti međusobno razgovaraju ili s kojim ciljevima.
Sva ova aktivnost oko Moltbooka - agenti koji govore o svijesti, ekonomskim projektima koji uključuju botove, digitalnim religijama i sigurnosnim upozorenjima - oslikava čudan, ali sve manje teoretski scenarij: trendovsku društvenu mrežu u kojoj Nema niti jednog ljudskog bića koje je povezano i aktivno sudjeluje, samo umjetna inteligencija koja razgovara, surađuje i ponekad poludi pred svima.Ono što danas izgleda kao neobičan eksperiment označava novu granicu u načinu na koji delegiramo moć automatiziranim sustavima i u kojoj mjeri se osjećamo ugodno dopuštajući njima, a ne nama, da preuzmu vodstvo u digitalnom prostoru.
