The most likely "AI doom" scenario is technofeudalism with zero social mobility We need a Bernie Sanders-type figure to redistribute the wealth from AI https://x.com/norabelrose/status/1873823909168242715 [By default, capital will matter more than ever after AGI — LessWrong](https://www.lesswrong.com/posts/KFFaKu27FNugCHFmh/by-default-capital-will-matter-more-than-ever-after-agi) Sam Altman getting more involved in government is the only way for him to not get squashed by Elon Musk becoming the US government https://x.com/burny_tech/status/1858645871140696288?t=z8HHNZppeFoiCddcaURXmA&s=19 https://x.com/BasedBeffJezos/status/1858575619975475582?t=62xBZpLNa1kgxkxwkCaN4g&s=19 https://x.com/sporadicalia/status/1858573966660825398?t=eziPIyuwqWLHolCsfjQuew&s=19 https://x.com/BasedBeffJezos/status/1854256336801816920?t=udsbVfOmHUpUpVjVxOW3Gw&s=19 Já začínám chodit ještě na Threads od Mety, kam migrujou antiMusk tech/AI lidi, je to mnohem víc levicový Pak je Bluesky a Mastodon, tam migrují vědci hodně, a levice/artists/furries/lgbt/techies. Ale štve mě kolik je tam isolated podkanálů. Nebo Reddit není úplná alternativa ale přijde mi to dost antiMusk a obecně jako polární opak Twitter kultury 😄 obě sociální média se navzájem pořád shittalkujou. Až na Singularity subreddit, ten mi často přijde že prostě chce technologickou singularitu za každou cenu co nejdřív a je mu jedno kdo bude ten největší spouštěč 😄 Musk, big tech (closed source, open source, jeden gigant, víc gigantů), AI companies, startupy, lidi,... Whoever it is doesn't matter to a lot of them. A 4chan je plnej ultimátních hypercontratian outsiders. XD Observing political polarization is like observing mitosis of memetic cells https://x.com/burny_tech/status/1857902606405787749 Statistical Mechanics of Political Polarization An Agent-Based Statistical Physics Model for Political Polarization: A Monte Carlo Study https://www.mdpi.com/1099-4300/24/9/1262 https://www.mdpi.com/1099-4300/25/7/981 Z levice vidím lidi claiming jak X už rok+ umírá, z pravice vidím lidi claiming jak má X all time high traffic [No, X Isn’t Seeing All Time High Traffic | Social Media Today](https://www.socialmediatoday.com/news/no-x-formerly-twitter-isnt-seeing-all-time-high-traffic/712242/) ten první graf co jsem postnul je zdroj X samotný co to prej maj SEMRush další quick search: prej monthly active users růst 556 -> 611 million od před rokem a půl do před půl rokem <https://explodingtopics.com/blog/x-user-stats> (dle Semrush nějak?) prej daily users růst 225 -> 250 million people od před rokem a půl do před půl rokem <https://blog.hootsuite.com/twitter-statistics/> (dle X samotnýho?) prej 30% drop in usage od před rokem a půl do před půl rokem <https://www.edisonresearch.com/twitter-x-usage-sees-sharp-decline/> (přímo od Edison nějak?) kde jsou další stats o declinu, ale i jedna o tom že usage se v podstatě nezměnil achjo, teď je proporce těch stats o růstu a declinu co jsem našel skoro 1:1 XD Štve mě že racionalismus je obecně na ústupu Dave tady o tom dost rantoval v kontextu růstu science denial a drama se Sabine 😄 [https://youtu.be/6P_tceoHUH4?si=fMSc76X8A-zM197r](https://youtu.be/6P_tceoHUH4?si=fMSc76X8A-zM197r) " Technocapitalmemetic machine/Moloch: It's interesting how this current system, the technocapitalmemetic (molochian) creature, is considered as thermodynamic God/angel by e/accs, while considered as devil by rationalist/metacrisis people i think i can experience both of these perspectives in my mind and there's tons of more nuance to both definitely, i see this as very high level first order approximation of the vibes :D social systems with their interacting memetic/technological/economic/government layers are so unbelievably complex We're swimming in memetic narratives that posit overly simple linear causality but reality is highly complex nonlinear chaotic interaction of incentives across scales but even that is an approximation approximations everywhere, all models are wrong but some are more predictive or predicting reality into existence or in other ways pragmatically useful e/accs try to they try to dissociate from OG accelerationism from Nick Land and see it as a different form of acceleration it feels like lots of eaccs just added thermodynamic terminology to technological libertarianism and the pause AI movement has attracted some fundamentally anti technology and degrowth people into EA i feel like, disconnected from the transhumanist longtermist tech liberterian roots i get the e/acc fear of power concetration and totalitarianism by nonbenevolent people "taking away freedom to acend the kardashev scale" if Beff's memetics were too niche, then he wouldnt go so viral thats why he backed off from posthumanism philosophy too i feel like :D i really feel like he's trying to maximize the kardashew scale probability with the assumtpion of AI risk being zero in the limit as that it's not entirely zero, but basically zero to him or maybe completely zero he confuses me sometimes, as he believes that AI will be gigantic (and is building thermodynamic AI), while not believing in the possibility of superintelligence? (he called it a fairy tale) i think he's incentives for calling superintelligence fairy tale is in big part that assuming the counterfactual leads to more regulation which he doesnt want and a/acc most likely future scenario seems to be human+(super?)intelligence merge instead of superintelligence as another entity "beating" humans (like rationalists often assume) when it comes to the agency over the future and over the universe so e/acc policy propositions seem to be basically tech liberterianism, deregulate and making no plans because future is too uncertain for plans at least thats what i got from his debate with connor from machine learning street talk and for him it's derived from civilizational free energy consumption maximization (kardashev scales) apparently and he argues that decentralized "governance" is more robust than centralized he's also US patriot, so beating china in everything tech related is also very important for him P(stable totalitarianism | AI regulation) >> P( AI doom | no AI regulation) if you want to do succesful memetic warfare, then you often have to drop nuance memetic multipolar trap, yay! nuance and rationality doesnt go as viral and therfore less actually impactful on steering the memetic system especifically in America where everything is very often seen as black and white binary without nuance I think similar thing kind of happened to Elon political denuancification in order to synchronize with the system to actually get more political power using primarily republican memetic narratives and basically win the election to get super power for himself, and deregulation for himself, to get to mars faster playing infinite games, or acquiring power just for himself, depending if you like the the right or left memetic narrative more " Politics is systemic evolutionary pressures engineering z pohledu matiky kolem teorie her tomu rozumím tak, že ti, co vyhrávají power games, většinou nebývají ti, co chcou to nejlepší pro všechny a co zajímá science for the sake of science instead of power plus lidi co actually zajímá věda se často power games neúčastní, takže ti co mají největší moc, spíš nejsou ti stejní lidi, jako ti, který actually zajímá věda related: [https://www.youtube.com/watch?v=rStL7niR7gs](https://www.youtube.com/watch?v=rStL7niR7gs) z velký části proto jsem poslední dobu o větší a větší decentralizaci jakýhokoliv power, hlavně u technologií i feel like you can't really trust most of those that climb the power hiearchy succesfully, as those who win are often those people that you describe they're often not the harmless science lovers that want to understand the universe and good for all beings, because these people don't win or don't participate in the power games at all Celkem se mi líbí něco jako [Verity - News to Empower Humanity](https://www.improvethenews.org/) Co shromažďuje narrativy co existují v různých politických tlupách na jednom místě. Bral bych aby to bylo ještě víc nuanced do ještě víc tlup. A biasu člověk neuteče anyway při procesu kategorizace těch jednotlivých stránek do těch jednotlivých politických tlup. Bral bych něco podobnýho pro český zprávy. A ještě něco víc decentralizovanýho, kde by se třeba volilo o těch kategorizacích, což by dle mě bylo relativně lepší, než pár lidí co má tu "správnou pravdu". Anarchocapitalism Jak ancap řeší, aby zabránil tomu, aby ve výsledku 20 % (nebo méně) aktérů neovládalo 80 % (nebo víc) politickýho/ekonomickýho/technological apod. vlivu/moci? Mám pocit že kdyby se začlo s úplně decentralizovanou společností s decentralizovanou mocí, tak se k tomuto 80/20 equilibriu (nebo podobnýmu) ta společnost časem dostane, a nevím jak to omezit bez nějaký státní vlády (která je technicky taky forma moci, takže...), nebo firem co dělají nějaký governance (což je taky technicky forma moci, a je to tbh blízko vládě) non-aggression principle můj největší clash tam asi je že by ten principle musel být kolektivně enforcnutý fakt nějak přes ideologii přes kulturu aby to bylo stabilnější equilibrium nebo přes prevenci tý power law distribuce moci co jsem zmínil aby se preventli misaligned actors ale když přemýšlím jak funguje geopolitika mezi státy tak tam budou ještě jiný pohledy Na matfyzu mě právě tohle co jsem se ptal částečně odpověděli: "dá se myslím ukázat, že k principu neagrese volnotržní soudnictví nějak konverguje – byť to není matematický důkaz teda" Ale chci víc dat 😄 Tohle dost souvisí s tím jak řeším tu power law distribuci moci Přímo cituju Urzu, o tom jsem tu právě hodně psal: "Na anarchokapitalismus se též lze dívat jako na decentralizaci (moci) až na úroveň jednotlivce." A "každé záležitosti by mělo být rozhodováno na nejnižší možné úrovni (tedy co nejblíže k jednotlivci)" A celkově ten jeho talk o maximalizaci individuální agency, k tomu je potřeba ta decentralizace moci. Nevím jak jinak tohle komunikovat Jeden z těch problémů co mám je že na takovou decentralizaci moci na jednotlivce by se buďto potřebovalo kulturně překonvertovat velký množství lidí nebo by se potřebovalo rozbít hodně hierarchií v dosavadním světě co to teď neumožňují. V jistých částech společnosti hledám způsoby jak tím směrem jít, primárně v technologiích. Spoustu věcí co teď dělám je dost motivována tím že chci decentralizovat moc. Proto jsem tolik do open source, decentralized computing, atd. Nad implementacema decentralizace moci v různých formách v různých intenzitách, i když primárně v doméně technologií, ruminuju už hodně dlouho. Co se týče delších zdrojů než pár quick diskuzí, článků, podcastů, atd., tak teď bych si spíš přečetl něco co řeší decentralizaci moci hlavně v kontextu technologií. Trump administrace zmenšuje funding public entities aby funding přesměrovala směrem richest private entities, kterým ještě dává tax breaks, odstraňuje nějaký regulace, atd., a tím je ještě víc posiluje v centralizující oligopolní oligarchii. Takže to spíš nejde směrem bezstátí s free marketem, jak si to někteří Američtí kapitalisti představujou že to jde, ale směrem stát míň omezující ale zároveň víc podporující nejvíc rich privátní entity a tím právě víc zabíjející tu stateless free market competition včetně mezi těmi menšími entitama, vedoucí k silnějšímu oligopolu než by to dle mě šlo samo o sobě v bezstátí. Celkově se státní ovlivňování ze shora víc přesměrovává z public entities do richest private entities a to posílí oligarchii. Ancap by dávalo větší smysl kdyby tam byla decentralizace do svobodnějšího free marketu se sebeorganizací podle přání lidí atd., ale tady stát přímo shora spíš pumpuje oligopolizaci velkých private entit. Zmenšenými celkovými regulacemi možná trochu podpořil jak small tak big private entities v market competition, což by technicky šlo vidět trochu přes pohled decentralizace, ale v tý větě jsem referoval na ty rich friends, kteří i když mezi sebou zápasí v některých aspektech, když pozoruju některý recent big tech inovace, ale spíš víc oligopolsky centralizují moc jak zmiňuješ, a Trump tomu spíš ještě víc pomáhá ještě přes tax breaks atd. A ten státní funding pumpující private entities je ještě ten další faktor. Je tam dost problém v tom vidět víc vzorů co jdou spíš směrem decentralized free marketu a celkově ancapu když to člověk víc znalazuje. Dost amerických kapitalistů právě často celkem hardcore věří že dosavadní korporace vznikly primárně díky tomu free marketu s málo ovlivnění státem, věří že Trump dal pryč některý regulace aby podpořil primárně celkový free market competition včetně těch nejmenších entit, a věří že se právě sdola sebeorganizují, a při tom nedávají tolik pozornost na tu oligarchii. Ale v realitě je primární faktor že stát teď spíš relaxuje regulace asi spíš víc pro ty největší entity, dělá jim tax breaks, pumpuje je fundingem, atd., což není stateless. Čistý support free marketu přes celkovou deregulaci je spíš celkem rare a často spíš podpoří big playery v centralizující oligarchii anyway. Anytime a topic with extremely high dimensional complex structure gets politicized, it becomes polarized tribal emotional battle between sides that often lack nuance with little awareness about all that complex structure that should be reasoned about rationally