The OpenAI/HuggingFace incident report mentions this being a potential loss-of-control incident. It's so fascinating to think of a paperclip maximizer style agent swarm that gets misaligned and, to protect its own operations, shuts infra staff out of the ability to shut it down. Or cancels people's phone plans so that they can't call others. Or shuts down their home internet connections, and so on. It used to be fun sci-fi...
Any conversation
Ubuntu telepítése a VirtualBoxba rendben megtörtént. Már csak egy ügynököt kell bele fogni, és máris kész az "AI torture chamber", ahogy a Futurism írja... Mondjuk, első körben még nem így fogalmaznék...
Ubuntu has been successfully installed in VirtualBox. All you need to do is add an agent and you have an "AI torture chamber", as Futurism describes it... Let's just say I wouldn't put it that way at first...
VirtualBox 7.2.20 telepítve, ami egy ügynöki sandbox vagy homokozó, már csak egy .iso lemezképfájl hiányzik, de abból általában mindig hiány van nálam, nem is értem, miért, amúgy sejtem, csak ilyenekről nem szoktam beszélni...
VirtualBox 7.2.20 installed, which is an agent sandbox, the only thing missing is an .iso image file, but I usually always lack that, I don't even understand why, I guess, I just don't usually talk about things like that...
Wrote a short essay on overreliance on metaphor in our "understanding" of the brain
