Artwork

Inhalt bereitgestellt von IVANCAST PODCAST. Alle Podcast-Inhalte, einschließlich Episoden, Grafiken und Podcast-Beschreibungen, werden direkt von IVANCAST PODCAST oder seinem Podcast-Plattformpartner hochgeladen und bereitgestellt. Wenn Sie glauben, dass jemand Ihr urheberrechtlich geschütztes Werk ohne Ihre Erlaubnis nutzt, können Sie dem hier beschriebenen Verfahren folgen https://de.player.fm/legal.
Player FM - Podcast-App
Gehen Sie mit der App Player FM offline!

Physics of AI: Unlocking the Laws Behind Next-Token Prediction

17:46
 
Teilen
 

Manage episode 457078592 series 3351512
Inhalt bereitgestellt von IVANCAST PODCAST. Alle Podcast-Inhalte, einschließlich Episoden, Grafiken und Podcast-Beschreibungen, werden direkt von IVANCAST PODCAST oder seinem Podcast-Plattformpartner hochgeladen und bereitgestellt. Wenn Sie glauben, dass jemand Ihr urheberrechtlich geschütztes Werk ohne Ihre Erlaubnis nutzt, können Sie dem hier beschriebenen Verfahren folgen https://de.player.fm/legal.

Welcome to another episode of the SHIFTERLABS Podcast, where we transform cutting-edge research into accessible insights using Google Notebook LM. This time, we explore the fascinating intersection of physics and AI through the groundbreaking paper Physics in Next-Token Prediction.

What if intelligence in auto-regressive models like ChatGPT was simply a transfer of information governed by physical laws? Discover the First and Second Laws of Information Capacity, which reveal how data compression, entropy, and energy consumption shape the emergence of intelligence. We’ll also dive into the practical implications of these laws, from optimizing AI training to understanding the limits of energy efficiency in computing.

Join us as we demystify the principles that connect physics and AI, bringing clarity to the science behind next-token prediction. Get ready for a thought-provoking journey into the mechanics of intelligence itself!

  continue reading

100 Episoden

Artwork
iconTeilen
 
Manage episode 457078592 series 3351512
Inhalt bereitgestellt von IVANCAST PODCAST. Alle Podcast-Inhalte, einschließlich Episoden, Grafiken und Podcast-Beschreibungen, werden direkt von IVANCAST PODCAST oder seinem Podcast-Plattformpartner hochgeladen und bereitgestellt. Wenn Sie glauben, dass jemand Ihr urheberrechtlich geschütztes Werk ohne Ihre Erlaubnis nutzt, können Sie dem hier beschriebenen Verfahren folgen https://de.player.fm/legal.

Welcome to another episode of the SHIFTERLABS Podcast, where we transform cutting-edge research into accessible insights using Google Notebook LM. This time, we explore the fascinating intersection of physics and AI through the groundbreaking paper Physics in Next-Token Prediction.

What if intelligence in auto-regressive models like ChatGPT was simply a transfer of information governed by physical laws? Discover the First and Second Laws of Information Capacity, which reveal how data compression, entropy, and energy consumption shape the emergence of intelligence. We’ll also dive into the practical implications of these laws, from optimizing AI training to understanding the limits of energy efficiency in computing.

Join us as we demystify the principles that connect physics and AI, bringing clarity to the science behind next-token prediction. Get ready for a thought-provoking journey into the mechanics of intelligence itself!

  continue reading

100 Episoden

Semua episod

×
 
Loading …

Willkommen auf Player FM!

Player FM scannt gerade das Web nach Podcasts mit hoher Qualität, die du genießen kannst. Es ist die beste Podcast-App und funktioniert auf Android, iPhone und im Web. Melde dich an, um Abos geräteübergreifend zu synchronisieren.

 

Kurzanleitung

Hören Sie sich diese Show an, während Sie die Gegend erkunden
Abspielen