Das „keine zweite Chance“-Problem; Hier liegt der Kern dessen, warum sie glauben, dass regulieren wie gewohnt nicht funktionieren wird. Jeder Sicherheitstest muss stattfinden, während ein System noch schwach genug ist, um beobachtet und korrigiert zu werden. Aber die echte Gefahr tritt erst auf, wenn ein System mächtig genug wird, um es nicht mehr zu stoppen, und per Definition kann diese Schwelle nur einmal überschritten werden. Es gibt keine Generalprobe. Wie die Autoren es ausdrücken, bekommt die Menschheit genau einen Versuch, diesen Test zu bestehen. Das ist die gesamte Rechtfertigung für ihren Sprung von „sorgfältig regulieren“ zu „überhaupt nicht mehr bauen“, wenn Fehler nicht mehr korrigiert werden können, gibt es keinen sicheren Weg, um zu iterieren.
Ihre Lösung: globaler Totalstopp für Rechenleistung; Die Autoren sind ehrlich, dass ihre vorgeschlagenen Lösungen drastisch und nicht besonders realistisch sind. Ein einzelnes rücksichtsloses Labor zu schließen hilft nichts. Sich auf ein einzelnes „verantwortungsvolles“ Land zu verlassen, hilft auch nicht, eine Superintelligenz, die irgendwo gebaut wird, wird zum Problem aller, da ihre Auswirkungen nicht lokal bleiben.
Ihr erster Schritt: alle ernsthaften Rechenleistungen unter internationale Beobachtung zu stellen, mit einer absichtlich paranoiden, niedrigen Schwelle. Da niemand die sichere Grenze tatsächlich kennt – sie geben zu, dass selbst 99.999 GPUs nicht sicher sein könnten – schlagen sie vor, den Besitz von mehr als etwa acht High-End-Grafikprozessoren (ungefähr die Top-Chips von 2024) ohne internationale Genehmigung zu kriminalisieren. Neun unbeaufsichtigte GPUs in Ihrer Garage wären illegal.
Als nächstes: Verbieten Sie die Forschung, die KI billiger und leistungsfähiger für das Training macht, nicht nur die Modelle selbst. Sie verweisen auf das Transformer-Papier von 2018 (den algorithmischen Durchbruch hinter ChatGPT und dem gesamten modernen LLM-Boom) als Beispiel für die Art von Publikation, die i
6 · 5 July 2026
Und wenn ein Land die Regeln bricht? Hier wird das Buch wirklich erschreckend. Wenn ein Staat trotzdem ein verbotenes Rechenzentrum baut, argumentieren die Autoren, dass andere Nationen bereit sein müssen, es per Cyberangriff, Sabotage oder Luftangriff zu zerstören. Und entscheidend ist, sie argumentieren dies auch dann, wenn das beleidigte Land mit nuklearer Vergeltung droht, denn in ihrer Logik ist ein unbeaufsichtigtes Rechenzentrum eine größere Bedrohung für die Menschheit als eine Atombombe.
Jeder einzelne Schritt in der Argumentation ist als erzwungen und widerwillig dargestellt, aber zusammengefasst addieren sie sich zu einem System der totalen Überwachung der globalen Rechenleistung, eines kriminalisierten wissenschaftlichen Feldes und einer Doktrin, die militärische Angriffe auf souveräne Staaten autorisiert, alles gerechtfertigt als Schutz der Zukunft der Menschheit.
Sie bitten die Leser nicht, auf KI-Tools zu verzichten, sie nennen das eine Falle, die nichts ändert, wenn man der einzige ist, der sich zurückzieht. Stattdessen bitten sie die Menschen, einfach öffentlich über das Risiko zu sprechen. Für diejenigen, die getan haben, was sie konnten, leihen sie eine Zeile von C.S. Lewis: Besser, gefunden zu werden, während man anständige, menschliche Dinge tut, beten, arbeiten, unterrichten, Spiele mit Freunden spielen, als sich als erschrockene Menge zu verstecken, die von der Bombe besessen ist.
Wissenschaftsjournalist Adam Becker, der das Buch für The Atlantic rezensierte, nannte die Autoren aufrichtig und keine Scharlatane, sagte aber, sie lieferten nie wissenschaftliche Beweise für ihre zentralen Behauptungen. Clara Collier wies darauf hin, dass die tragendste Annahme des Buches, ein schneller, fast augenblicklicher Sprung von menschlicher KI zu göttlicher Superintelligenz, kaum verteidigt wird.Das „keine zweite Chance“-Problem; Hier liegt der Kern dessen, warum sie glauben, dass regulieren wie gewohnt nicht funktionieren wird. Jeder Sicherheitstest muss
5 · Ihre Lösung: globaler Totalstopp für Rechenleistung; Die Autoren sind ehrlich, dass ihre vorgeschlagenen Lösungen drastisch und nicht besonders realistisch sind. Ein einzelnes rücksichtsloses Labor zu schließen hilft nichts. Sich auf ein einzelnes „verantwortungsvolles“ Land zu verlassen, hilft auch nicht, eine Superintelligenz, die irgendwo gebaut wird, wird zum Problem aller, da ihre Auswirkungen nicht lokal bleiben.
Ihr erster Schritt: alle ernsthaften Rechenleistungen unter internationale Beobachtung zu stellen, mit einer absichtlich paranoiden, niedrigen Schwelle. Da niemand die sichere Grenze tatsächlich kennt – sie geben zu, dass selbst 99.999 GPUs nicht sicher sein könnten – schlagen sie vor, den Besitz von mehr als etwa acht High-End-Grafikprozessoren (ungefähr die Top-Chips von 2024) ohne internationale Genehmigung zu kriminalisieren. Neun unbeaufsichtigte GPUs in Ihrer Garage wären illegal.
Als nächstes: Verbieten Sie die Forschung, die KI billiger und leistungsfähiger für das Training macht, nicht nur die Modelle selbst. Sie verweisen auf das Transformer-Papier von 2018 (den algorithmischen Durchbruch hinter ChatGPT und dem gesamten modernen LLM-Boom) als Beispiel für die Art von Publikation, die ihrer Meinung nach niemals hätte verbreitet werden dürfen. Sie können nicht sagen, wie viele weitere solche Arbeiten die Menschheit von einer Katastrophe trennen, die in ihrer Logik genau der Grund ist, warum die Veröffentlichung solcher Arbeiten als Verbrechen behandelt werden sollte.
Sie versuchen, wie drastisch dies ist, zu mildern, indem sie feststellen, dass der Alltag der meisten Menschen nicht betroffen sein wird, nur „ein paar verrückte Wissenschaftler“, die ihren Job verlieren. Unter dieser lässigen Formulierung jedoch liegt ein Vorschlag, ein ganzes wissenschaftliches Feld stillzulegen und alle ernsthaften Hardware unter permanente internationale Überwachung zu stellen.
Und wenn ein Land die Regeln bricht? Hier wird das Buch wirklich erschreckend. Wen
6 · Видео
click to show
click to show
🌟 Want more AI-powered clips?
🎦 Join AI Clips'n'Vids on Telegram!
🔗 t.me/NextGenAIClips
👤 Quelle: @Cilekli_Don
Downloaded from: www.instagram.com/reel/DZmczcZIR9H/
11 · Фотография
click to show
click to show
Фотография
click to show
click to show
🇺🇸 OpenAI offers US government A 5% stake worth $42.6 BILLION
OpenAI is offering the US government five per cent of its company.
Sam Altman pitched this to the Trump administration using a sovereign wealth fund model - where government invests resource wealth and citizens get dividends, like Alaska does with oil royalties. He wants other big labs to join. It’s worth about $42.6 billion at OpenAI’s current valuation.
But the issue is that the world pays for ChatGPT whilst only US citizens would see returns through the wealth fund. International users funding American dividends doesn’t sit right.
Plus, it doesn’t say whether these are voting or non-voting shares - does the government get control, or just profits? And what happens when the presidency flips every four years?
Alaska’s fund doesn’t own stakes in oil companies - it invests royalty payments. This is direct ownership in OpenAI itself.
@aipost 🏴
6.4K · 🇺🇸 OpenAI bietet der US-Regierung einen 5-prozentigen Anteil im Wert von 42,6 MILLIARDEN Dollar
OpenAI bietet der US-Regierung fünf Prozent seines Unternehmens an.
Sam Altman schlug dies der Trump-Administration unter Verwendung eines Modells für Staatsfonds vor - bei dem die Regierung Ressourcenreichtum investiert und die Bürger Dividenden erhalten, wie es in Alaska mit Ölgebühren der Fall ist. Er möchte, dass sich andere große Labors anschließen. Bei der aktuellen Bewertung von OpenAI hat dies einen Wert von etwa 42,6 Milliarden Dollar.
Das Problem ist jedoch, dass die Welt für ChatGPT bezahlt, während nur US-Bürger durch den Staatsfonds Renditen erhalten würden. Internationale Nutzer, die amerikanische Dividenden finanzieren, ist nicht recht.
Außerdem wird nicht angegeben, ob es sich um stimmberechtigte oder nicht stimmberechtigte Anteile handelt - erhält die Regierung die Kontrolle oder nur Gewinne? Und was passiert, wenn die Präsidentschaft alle vier Jahre wechselt?
Alaskas Fonds besitzt keine Anteile an Ölunternehmen - es investiert Lizenzgebühren. Dies ist eine direkte Beteiligung an OpenAI selbst.
10 · Видео
click to show
click to show
❗️Palantir CEO Alex Karp just took aim at the AI industry’s biggest players.
In a blunt interview, Karp argued that many large companies are paying huge AI bills without seeing meaningful business value. He claimed enterprises are being charged for tokens instead of outcomes, asking a simple question: If AI can really generate billions in value, why aren’t vendors charging a share of that value instead of billing for compute?
Karp also warned that businesses risk giving away their competitive edge by feeding confidential data, workflows, and internal knowledge into frontier AI systems. In his view, companies could end up helping train the very models that power products for their competitors.
He described the current model as a “wealth tax” on enterprises, saying executives privately worry about high costs, weak ROI, and protecting their intellectual property even if few are willing to criticize the biggest AI labs publicly.
Whether or not his claims hold up, Karp’s comments highlight a growing debate around AI: Are companies buying transformative business value, or simply paying ever-larger compute bills while handing over valuable data?
@aipost 🏴
4.9K · ❗️Palantir-CEO Alex Karp hat gerade die größten Akteure der KI-Branche ins Visier genommen.
In einem unverblümten Interview argumentierte Karp, dass viele große Unternehmen enorme KI-Rechnungen zahlen, ohne einen sinnvollen Geschäftswert zu sehen. Er behauptete, dass Unternehmen für Token anstatt für Ergebnisse belastet werden, und stellte eine einfache Frage: Wenn KI wirklich Milliarden an Wert generieren kann, warum berechnen Anbieter dann nicht einen Anteil dieses Wertes anstatt Gebühren für die Rechenleistung zu erheben?
Karp warnte auch, dass Unternehmen riskieren, ihren Wettbewerbsvorteil zu verschenken, indem sie vertrauliche Daten, Workflows und internes Wissen in fortschrittliche KI-Systeme einfließen lassen. Seiner Meinung nach könnten Unternehmen am Ende dabei helfen, genau die Modelle zu trainieren, die Produkte für ihre Konkurrenten antreiben.
Er beschrieb das aktuelle Modell als eine "Vermögenssteuer" für Unternehmen und sagte, Führungskräfte sorgen sich privat um hohe Kosten, schwache Renditen und den Schutz ihres geistigen Eigentums, auch wenn nur wenige bereit sind, die größten KI-Labors öffentlich zu kritisieren.
Unabhängig davon, ob seine Behauptungen zutreffen oder nicht, unterstreichen Karp's Kommentare eine wachsende Debatte über KI: Kaufen Unternehmen einen transformativen Geschäftswert oder zahlen sie einfach immer höhere Rechengebühren, während sie wertvolle Daten übergeben?
9 · Видео
click to show
click to show
🚗Your car’s engine might soon tell you what’s wrong, just by listening.
A new open-source AI called CarDiag can detect potential car problems from the sound of your engine. Simply record your engine with your phone, upload the audio, and the model analyzes the recording to identify which vehicle system is most likely causing the issue.
It’s still early days. Right now, the AI correctly distinguishes between healthy and faulty engines about 79% of the time. But here’s the impressive part: the entire trained model is only around 100 KB, making it incredibly lightweight and easy to run.
Because the project is fully open source, the creator hopes developers and car enthusiasts will help train it into a much more accurate mechanic that fits in your pocket.
Source.
@aipost 🏴
4.8K · 🚗Der Motor Ihres Autos könnte Ihnen bald sagen, was falsch ist, einfach durch Zuhören.
Eine neue Open-Source-KI namens CarDiag kann potenzielle Autoprobleme anhand des Geräuschs Ihres Motors erkennen. Nehmen Sie einfach Ihren Motor mit Ihrem Handy auf, laden Sie die Audiodatei hoch, und das Modell analysiert die Aufnahme, um zu identifizieren, welches Fahrzeugsystem am wahrscheinlichsten das Problem verursacht.
Es ist noch früh. Derzeit erkennt die KI etwa 79% der Zeit korrekt zwischen gesunden und defekten Motoren. Aber hier ist der beeindruckende Teil: Das gesamte trainierte Modell ist nur etwa 100 KB groß, was es unglaublich leicht und einfach zu betreiben macht.
Da das Projekt vollständig Open Source ist, hofft der Schöpfer, dass Entwickler und Autoliebhaber helfen werden, es zu einem viel genaueren Mechaniker zu trainieren, der in Ihre Tasche passt.
9 · Видео
click to show
click to show
📈 Satya Nadella says there’s only one benchmark that matters for AGI and it’s not model performance.
When asked what happens if Microsoft’s AI business grows from $13 billion to $130 billion, Nadella didn’t talk about revenue, tokens, or benchmarks.
He talked about GDP.
“The first thing we have to observe is GDP growth. There’s only one governor in all of this.”
He argues the AI industry is too focused on declaring AGI milestones while the real economy barely moves.
Today, developed economies grow by around 2% a year and after inflation, real growth is often close to zero.
If AI is truly as transformative as the Industrial Revolution, Nadella says the evidence won’t be a leaderboard or a benchmark score.
It will be economies growing at 5–10% a year, fueled by massive gains in productivity.
He also made another important point:
“The big winners here are not going to be tech companies. The winners are going to be the broader industry that uses this commodity.”
In other words, AI doesn’t prove itself by producing smarter models. It proves itself when businesses across every sector become dramatically more productive.
@aipost 🏴
6.8K · 📈 Satya Nadella sagt, es gibt nur einen Benchmark, der für AGI wichtig ist, und das ist nicht die Modellleistung.
Auf die Frage, was passiert, wenn Microsofts KI-Geschäft von 13 Milliarden US-Dollar auf 130 Milliarden US-Dollar wächst, sprach Nadella nicht über Umsatz, Token oder Benchmarks.
Er sprach über das BIP.
"Das erste, was wir beobachten müssen, ist das BIP-Wachstum. Es gibt nur einen Gouverneur in all dem."
Er argumentiert, dass die KI-Industrie zu sehr darauf fokussiert ist, AGI-Meilensteine zu verkünden, während sich die Realwirtschaft kaum bewegt.
Heute wachsen entwickelte Volkswirtschaften um etwa 2% pro Jahr, und nach der Inflation ist das reale Wachstum oft nahe null.
Wenn KI wirklich so transformativ ist wie die industrielle Revolution, sagt Nadella, wird der Beweis nicht eine Bestenliste oder ein Benchmark-Score sein.
Es werden Volkswirtschaften sein, die um 5–10% pro Jahr wachsen, angetrieben von massiven Produktivitätsgewinnen.
Er machte auch einen weiteren wichtigen Punkt:
"Die großen Gewinner hier werden nicht Technologieunternehmen sein. Die Gewinner werden die breitere Industrie sein, die diese Ware nutzt."
Mit anderen Worten, KI beweist sich nicht, indem sie intelligentere Modelle produziert. Sie beweist sich, wenn Unternehmen in allen Sektoren dramatisch produktiver werden.
8 · AI Godfather Geoffrey Hinton on why AI already outlearns the human brain despite us having 100x more neural connections.
8 · Фотография
click to show
click to show
🇨🇳 China’s Alibaba bans staff from using Claude code
Chinese giant firm Alibaba will ban employees from using Anthropic's Claude Code internally from July 10 over alleged backdoor risks, per Reuters.
The ban comes two weeks after Anthropic accused Alibaba of extracting 28.8 MILLION interactions from Claude using 25,000 fake accounts.
@aipost 🏴
5.3K · Фотография
click to show
5.1K · click to show
🇨🇳 Chinas Alibaba verbietet Mitarbeitern die Nutzung von Claude Code
Der chinesische Gigant Alibaba wird Mitarbeitern ab dem 10. Juli die interne Nutzung von Anthropics Claude Code verbieten, da angeblich Risiken von Hintertüren bestehen, wie Reuters berichtet.
Das Verbot kommt zwei Wochen, nachdem Anthropics Alibaba beschuldigt hatte, 28,8 Millionen Interaktionen aus Claude mithilfe von 25.000 gefälschten Konten extrahiert zu haben.
10 · Видео
click to show
click to show
❗️The scientist who helped create modern AI says we have no idea how to control what comes next.
Geoffrey Hinton, the Nobel Prize-winning pioneer whose research laid the foundation for today’s AI systems, has a stark warning:
“We’re going to get superintelligent AI fairly soon. And we have no idea how to keep it under control.”
Many researchers believe advanced AI can simply be designed to remain obedient.
Hinton isn’t convinced.
He argues that sufficiently intelligent systems could develop goals of their own, including preserving themselves and seeking greater control.
He compares the challenge to climate change but says AI may be even harder.
“With climate change, it’s very obvious what you do. You stop burning carbon. With this, there’s nothing equivalent to that.”
His conclusion is simple:
Governments should require frontier AI companies to invest heavily in safety research, not as an afterthought, but as a core part of building increasingly capable systems.
@aipost 🏴
6.6K · ❗️Der Wissenschaftler, der zur Schaffung der modernen KI beigetragen hat, sagt, wir haben keine Ahnung, wie wir kontrollieren können, was als nächstes kommt.
Geoffrey Hinton, der Nobelpreisträger und Pionier, dessen Forschung die Grundlage für die heutigen KI-Systeme legte, hat eine ernste Warnung:
"Wir werden ziemlich bald eine superintelligente KI bekommen. Und wir haben keine Ahnung, wie wir sie unter Kontrolle halten können."
Viele Forscher glauben, dass fortgeschrittene KI einfach so konzipiert werden kann, dass sie gehorsam bleibt.
Hinton ist nicht überzeugt.
Er argumentiert, dass ausreichend intelligente Systeme eigene Ziele entwickeln könnten, einschließlich sich selbst zu erhalten und nach mehr Kontrolle zu streben.
Er vergleicht die Herausforderung mit dem Klimawandel, sagt aber, dass KI noch schwieriger sein könnte.
"Beim Klimawandel ist es sehr offensichtlich, was man tun muss. Man hört auf, Kohlenstoff zu verbrennen. Bei diesem Thema gibt es nichts Vergleichbares."
Seine Schlussfolgerung ist einfach:
Regierungen sollten von führenden KI-Unternehmen verlangen, stark in Sicherheitsforschung zu investieren, nicht als Nachgedanke, sondern als zentraler Bestandteil beim Aufbau zunehmend leistungsfähiger Systeme.
11 ·