Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsAI-Beschleuniger AMD Instinct: MI355X übernimmt vom Ladenhüter MI325X auf dem Weg zum MI450X
Auch in diesem Jahr wird AMD bei AI-Beschleunigern der Serien Instinct MI325X und dem Nachfolger MI355X nur bedingt wachsen. Erst 2026 mit einer echten Rackscale-Lösung könnte sich das ändern, Instinct MI400X wird hierfür den Startschuss geben. Bis dahin läuft man Nvidia hinterher.
Beim Trainig geht ohne Rackscale nichts. Jedenfalls nicht bei den großen Modellen, wo nunmal das große Geld auch steckt.
Ganz anders sieht es beim Inferencing aus. Die teuren Rackscale Lösungen von Nvidia sind dafür nicht zwingend, im Gegenteil. Die abnormalen Preise von Nvidia schrecken manche Partner wie Meta oder Oracle sogar ab. Einige der größten Sprachmodelle wie Llama werden ja nicht grundlos rein von AMD Instinct bedient und das wird nur zunehmen. Und dort bewegt sich der AI Markt auch immer mehr hin. Denn im Inferencing steckt das noch weitaus größer Geld drin, als im Training. In Bechmarks haben No-Inference LLMs keinerlei Chancen mehr.
Und genau hier kann AMD möglicherweise weit weit besser punkten und Marktanteile gut machen, noch vor der MI400.
Der Markt für KI-Beschleuniger ist ebenfalls ein sehr spannender, wenn auch ein etwas fragwürdiger. Ohne vernünftige Software im Rücken heizt diese Technik nur unnötig das globale Klima an. Für mich ist die aktuelle KI-Generation um Gemini & Co. noch weit entfernt davon sowohl ökonomisch als auch ökologisch vertretbar zu sein. Im Grunde haben wir es nur der dystopischen Entwicklung in dieser Welt zu verdanken, dass amerikanische Big-Tech-Konzerne viel zu "reich" geworden sind und daher nicht mehr großartig auf Wirtschaftlichkeit achten müssen. Jedes andere Unternehmen würde mit diesem Verhalten sicher Bankrott gehen...
Der Markt für KI-Beschleuniger ist ebenfalls ein sehr spannender, wenn auch ein etwas fragwürdiger. Ohne vernünftige Software im Rücken heizt diese Technik nur das globale Klima an und nichts anderes. Für mich ist die aktuelle KI-Generation um Gemini & Co. noch weit entfernt davon sowohl ökonomisch als auch ökologisch vertretbar zu sein. Im Grunde haben wir es nur der dystopischen Entwicklung in dieser Welt zu verdanken, dass amerikanische Big-Tech-Konzerne viel zu "reich" geworden sind und daher nicht mehr großartig auf Wirtschaftlichkeit achten müssen. Denn alle anderen Unternehmen würden mit diesem Verhalten aktuell sicher Bankrott gehen...
Plus die Angst irrelevant zu werden
ChatGPT ersetzt zb für mich immer mehr Google und würde Google da nicht mitziehen könnte es denen irgendwann so gehen wie Yahoo oder MySpace
Plus die Angst irrelevant zu werden
ChatGPT ersetzt zb für mich immer mehr Google und würde Google da nicht mitziehen könnte es denen irgendwann so gehen wie Yahoo oder MySpace
Im Q1 Call von AMD liest sich das durchaus anders.
Auch die Sache mit der MI355X stellt AMD im Q1 Call ganz anders dar. Im übrigen wurde auch schon ein größerer Cluster für Oracle basierend auf MI355X, Turin und Polara angekündigt.
Ich finde man muss zwischen der GPU-Architektur und der Systemarchitektur unterschieden.
Bei der GPU-Architektur ist die MI355X AFAIU ein großer Schritt nach vorne, da sie erstmal einige sehr wichtige Datentypen unterstützt.
Bei der Systemarchitektur und den dafür notwendigen Komponenten (NVLink, NV Switch) hat Nvidia einen noch größeren Vorsprung als bei den GPUs. Um diesen Vorsprung zu egalisieren mischt AMD bei 2 Initiativen mit, UALink und UltraEthernet. UALink wurde im April in der Version 1.0 verabschiedet und so wie ich es verstehe soll UALink bei der Rackscale Lösung für die MI400 verwendet werden. Man wird sehen, ob das tatsächlich noch 2026 klappt.
Da die Rackscale Lösung frühestens 2026 fertig ist, verwendet die MI355X noch einmal die Blades, die für die MI300X entworfen wurden. Das hat den Vorteil, dass es von Systemseite kaum Risiken, hat jedoch den riesigen Nachteil, dass AMD auf Basis der MI355X keine Rack Scale Lösungen anbieten kann.
Tja wer nicht mit der Zeit geht... Eh schon wissen, will es beim Programmieren nicht mehr missen, quasi ein Junior dev den man on-demand hinzuziehen kann bzw mit Zusammenfassungen schnell in ein neues Thema hineinkommt.
Wann und von wem wurde mi3xx als "nvidia-Killer" tituliert? Von AMD mit Sicherheit nicht, bitte hier auf dem Boden der Tatsachen bleiben. Es war immer nur die Rede und Hoffnung im Markt, dass AMD kleine Marktanteile gewinnen könnte. Was nun mal Milliarden entsprechen würde. Aber ich kann mich an solche Übertreibungen nicht erinnern. AMD ist eh konservativer im Marketing, als der bullshit von Nvidia.
Vielleicht in irgendwelchen Foren, wo gern mal wie hier jetzt übertrieben wird.
