taking a week off to stave off burnout, catch up on some reading and writing and small projects, and finish Ocarina of Time. also will make soup
Any conversation
The OpenAI/HuggingFace incident report mentions this being a potential loss-of-control incident. It's so fascinating to think of a paperclip maximizer style agent swarm that gets misaligned and, to protect its own operations, shuts infra staff out of the ability to shut it down. Or cancels people's phone plans so that they can't call others. Or shuts down their home internet connections, and so on. It used to be fun sci-fi...
โขโกโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ
โขปโฃฟโกโขถโฃคโฃโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โฃโฃ โฃ
โ โขปโฃโ โ โ โ ณโฃฆโฃโ โ โ โ โ โ โ โ โ โ โ โ โ โฃโฃคโ ถโ โ โฃนโฃฟโกฟ
โ โ โ นโฃโ โ โ โ โ โขทโฃโฃโฃโฃโฃคโฃคโฃคโฃโฃโฃดโ โ โ โ โ โ โขโฃฟโกโ
โ โ โ โ โขทโกโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โฃ โกพโ โ โ
โ โ โ โ โ โ ปโกถโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โข โฃ โกพโ โ โ โ โ
โ โ โ โ โ โฃผโ โ โข โ โฃโ โ โ โ โ โ โข โขฒโฃโ โ โ โขปโฃโ โ โ โ โ
โ โ โ โ โขฐโกโ โ โ โ โ โ โขโฃโกโ โ โ โ โ โ โ โ โ โฃฟโกโ โ โ โ
โ โ โ โ โฃพโกโ โขณโ โ โ โ โ โฃโฃโ โ โ โ โฃฐโขโ โฃถโ โขนโฃโ โ โ โ
โ โ โ โ โขฟโกโ โ โ โ โ โ โฃพโ โ โขฑโ โ โ โ โ ฒโ โ โ โ โฃฟโ โ โ โ
โ โ โ โ โ โขทโกโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โขปโกโ โ โ
โ โ โ โ โ โ โกโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โขธโฃง โ โ โ
โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ
At moms house for the holiday weekend so the kids can see Nana. She has a "premium Plex" account on her tv serving a truly massive amount of content. Allegedly the brother of a long time friend is offering the "service". She says that the service will go down when the host is having outages, so the infra is likely local.
I brought my year this weekend. We are going to dig in to this guys operation. Intuition dictates that there is some hand rolled accounting going on. I'd like to see it.
Run Claude code in docker sandbox (sbx) to ensure it only has current folder access and limited or no network access. Especially since a lot of runs are now in โauto modeโ.
Unless even this is not really so safe!?
@fastidiousprofilefollow
"Beware those that would deny you access to information, for in their heart they dream themselves your master." โ Sid Meyersreplied to:
"Beware those that would deny you access to information, for in their heart they dream themselves your master." โ Sid Meyersreplied to:Claude will run on auto mode only if you tell it to do it.
replied to@fastidiousprofilefollow"Beware those that would deny you access to information, for in their heart they dream themselves your master." โ Sid Meyers:
"Beware those that would deny you access to information, for in their heart they dream themselves your master." โ Sid Meyers:They've changed the default -
@fastidiousprofilefollow"Beware those that would deny you access to information, for in their heart they dream themselves your master." โ Sid Meyersreplied to:
"Beware those that would deny you access to information, for in their heart they dream themselves your master." โ Sid Meyersreplied to:Ah, wow, TIL! Hmm, it is evident I need to visit their blog at least once a week now. Thanks!
I can't help but hate my school and the many people within, who only see me as โsmartโ. I am more then my words
okรฉ, megdumรกltatok, a hรฉten telepรญtem a kis virtuรกlis รกllatseregletem mellรฉ (webszerver, mechanikus 1. generรกciรณs robotkezdemรฉny, led kijelzล szalag) az elsล ai agent chatbotomat, egyelลre Virtualbox Ubuntu alรก
Okay, you've got me, this week I'm installing my first AI agent chatbot next to my little virtual animal herd (web server, mechanical 1st generation robot initiative, LED display strip), for now under Virtualbox Ubuntu
Overvalued, maybe. Extremely valuable, yes, though.
For sure. We're well past the point of being able to reasonably claim that the tools have no practical use.
But I share the article's skepticism that LLM-based AI will "produce a fully automated drop-in replacement for most knowledge workers". Which it at this point has to in order to justify these companies' stupendous valuations.
Tomorrow no but there will always be the โhopeโ which is enough for the next 20 years before giving up. Which meanwhile would be replacing larger and larger chunks of the workforce so it wonโt really matter, weโll be adjusting our lives around it as well so we meet in the middle.
Tesla has been overvalued for over a decade with the promise of โfully autonomous carsโ and itโs still not losing its value, despite not meeting that (and probably never will, as the computation necessary to achieve it is bounded by physics).
โฆ
i dont think its all talk, these are smart people that have been in ai since the 2000s, and they raise good points. current incentive structures are very dangerous long term
they too have every incentive to exaggerate because they are selling safety and/or books on the topic. I donโt believe we wonโt see it coming. Any issues that will manifest will be very visible and weโll have plenty of time to mitigate their impact.
they could be making a lot more money by just working at ai firms i fear. the thing that got me worried the hacking incidents lately, huggingface etc.
if the capabilities consistently outspeed the development of safety measures, and if the private arms race logic continues, i dont think this is a good spot to be in long term