Wenn du @VitalikButerin respektierst und Vitalik @ESYudkowsky respektiert, dann gilt nach dem transitive Eigenschaft…

Vitaliks Woche ✅ An Doom Debates teilnehmen ✅ Dem Tres Commas Club beitreten

Die Doom-Debatte mit @VitalikButerin ist erschienen: Wird "d/acc" die Menschheit vor superintelligenter KI schützen? Vitalik ist sowohl ein harter Techno-Optimist und Builder als auch jemand, der bereit ist, ernsthaft über KI-Regulierung und Koordinationsmechanismen nachzudenken. Er prägte den Begriff "d/acc" – defensive, dezentrale Beschleunigung – als einen Mittelweg zwischen unkritischer KI-Beschleunigung und totalen Pausenszenarien. Wir debattieren die Durchführbarkeit der KI-Ausrichtung, ob Ansätze wie d/acc tatsächlich funktionieren würden, wenn die Superintelligenz eintrifft, und warum er denkt, dass eine pluralistische Welt mit konkurrierenden KIs sicherer sein könnte als eine einzige ausgerichtete Superintelligenz. Der Kern unserer Meinungsverschiedenheit ist, dass ich denke, wir steuern auf ein "Pflanzen gegen Tiere"-Szenario zu, in dem KI einfach auf Zeitrahmen operieren wird, die wir nicht erreichen können, während Vitalik glaubt, dass wir durch die richtige Kombination aus defensiven Technologien und institutionellem Design die Handlungsfähigkeit aufrechterhalten können. Schließlich gehen wir auf den Diskurs selbst ein – ich bitte Vitalik, die gängigen ad hominem Angriffe gegen KI-Doomer zu entkräften, von "es ist nur eine Randposition" bis "keine echten Builder glauben an Doom." Seine Antworten haben Gewicht, da er sowohl als erfolgreicher Unternehmer als auch als jemand, der während seiner gesamten Karriere intellektuelle Ehrlichkeit bewahrt hat, glaubwürdig ist. Ein großes Dankeschön an Vitalik für eine gute Debatte!

Der perfekte @paulg Köder existiert nicht...

Dass Anthropic mit 170 Milliarden Dollar bewertet wird, macht jeden zum Narren, der immer noch sagt, dass sich niemand mit echten Fähigkeiten im Bereich KI-Entwicklung um das Risiko der Auslöschung sorgt.

Glaubst du immer noch, dass die Effektivität des menschlichen Gehirns als "allgemeine Intelligenz" einfach aus der Aggregation einer vielfältigen Sammlung kulturell übertragener Fähigkeiten resultiert @robinhanson

Ich habe das Gefühl, dass diese Perspektive verloren gegangen ist? Der Übergang von GPT-4 zu GPT-5 *war* ein Schritt in der Größenordnung von GPT-3 zu GPT-4 und hat nur zwei Jahre statt drei gedauert.

Morgen

Drei Fragen an @paulg und @amasad: 1. Wenn Anas Al-Sharif ein Mitglied von Hamas war, war es dann gut, ihn zu eliminieren? 2. Ist Israels Behauptung, dass er ein Mitglied von Hamas war, wahrscheinlich wahr? 3. Wenn #1 und #2 beide wahr sind, wäre es dann angemessen, dass ihr die Reaktionen eurer Seite korrigiert?

Kein einziges Medienunternehmen hat die umfangreichen Open-Source-Beweise erwähnt, einschließlich einiger, die ich unten skizziert habe, die zeigen, dass Anas al-Sharif alles andere als ein Journalist ist. Mit Hamas-Führern abgebildet? Lobt die Mörder und Vergewaltiger vom 7. Oktober? Nein, nicht relevant.