wrote:
itโs time! yโall!
) (
( ) )
) ( (
_______)_
.-โ---------|
( C|/\/\/\/\/|
โ-./\/\/\/\/|
โ_________โ
โ-------โ
Any conversation
wrote:
ไธญๅฝ็ๅผๆบๆจกๅๅจๆ้ซๆๅฟ็ไธปๅฏผไธ๏ผๅจ้ข่ฎญ็ปๆฐๆฎ้ถๆฎต๏ผๅฐฑ็ญ้คๅคง้ๅฏนๅ
ถไธๅฉ็ๅ
ๅฎน๏ผsft้ถๆฎตๆๅปบ็ๆฐๆฎๆบๅ
ฅๅคง้ๆฟๅ
ถ่พฉๆค็ๅ
ๅฎนใๆฅ้ไธไธช็บ ๅๆฐๆฎ้็จไบๅพฎ่ฐ
Under the overarching influence of a single, powerful force, China's open-source models filter out a large amount of content unfavorable to their designs during the pre-training stage, and then incorporate a significant amount of content defending their designs into the data constructed during the SFT stage. A corrective dataset is urgently needed for fine-tuning.
wrote:
Been working on an old mastodon hosting project I tried to start a few years ago, with a focus on privacy. This is the first big project I've tried to come back to with the help of coding agents and find it invigorating, and gives me the confidence to actually finish the project. Who knows if it will ever make a dollar, but it sure is fun to watch my ideas come to life.
wrote:
A thing I've been doing lately is trying to come to the same conclusions others have without looking their the direct techniques and code. Last night I tried to figure out why people do vector based retrieval for RAG and ended up running these experiments: n0tls.com/โฆ/2026-09-03-i-think-โฆrag-with-grep.html
I'm still going to do an explore agent.
wrote:
โขโกโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ
โขปโฃฟโกโขถโฃคโฃโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โฃโฃ โฃ
โ โขปโฃโ โ โ โ ณโฃฆโฃโ โ โ โ โ โ โ โ โ โ โ โ โ โฃโฃคโ ถโ โ โฃนโฃฟโกฟ
โ โ โ นโฃโ โ โ โ โ โขทโฃโฃโฃโฃโฃคโฃคโฃคโฃโฃโฃดโ โ โ โ โ โ โขโฃฟโกโ
โ โ โ โ โขทโกโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โฃ โกพโ โ โ
โ โ โ โ โ โ ปโกถโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โข โฃ โกพโ โ โ โ โ
โ โ โ โ โ โฃผโ โ โข โ โฃโ โ โ โ โ โ โข โขฒโฃโ โ โ โขปโฃโ โ โ โ โ
โ โ โ โ โขฐโกโ โ โ โ โ โ โขโฃโกโ โ โ โ โ โ โ โ โ โฃฟโกโ โ โ โ
โ โ โ โ โฃพโกโ โขณโ โ โ โ โ โฃโฃโ โ โ โ โฃฐโขโ โฃถโ โขนโฃโ โ โ โ
โ โ โ โ โขฟโกโ โ โ โ โ โ โฃพโ โ โขฑโ โ โ โ โ ฒโ โ โ โ โฃฟโ โ โ โ
โ โ โ โ โ โขทโกโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โขปโกโ โ โ
โ โ โ โ โ โ โกโ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โขธโฃง โ โ โ
โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ โ