Artwork

Inhalt bereitgestellt von Conviction. Alle Podcast-Inhalte, einschließlich Episoden, Grafiken und Podcast-Beschreibungen, werden direkt von Conviction oder seinem Podcast-Plattformpartner hochgeladen und bereitgestellt. Wenn Sie glauben, dass jemand Ihr urheberrechtlich geschütztes Werk ohne Ihre Erlaubnis nutzt, können Sie dem hier beschriebenen Verfahren folgen https://de.player.fm/legal.
Player FM - Podcast-App
Gehen Sie mit der App Player FM offline!

The marketplace for AI compute with Jared Quincy Davis from Foundry

43:12
 
Teilen
 

Manage episode 435548496 series 3444082
Inhalt bereitgestellt von Conviction. Alle Podcast-Inhalte, einschließlich Episoden, Grafiken und Podcast-Beschreibungen, werden direkt von Conviction oder seinem Podcast-Plattformpartner hochgeladen und bereitgestellt. Wenn Sie glauben, dass jemand Ihr urheberrechtlich geschütztes Werk ohne Ihre Erlaubnis nutzt, können Sie dem hier beschriebenen Verfahren folgen https://de.player.fm/legal.

In this episode of No Priors, hosts Sarah and Elad are joined by Jared Quincy Davis, former DeepMind researcher and the Founder and CEO of Foundry, a new AI cloud computing service provider. They discuss the research problems that led him to starting Foundry, the current state of GPU cloud utilization, and Foundry's approach to improving cloud economics for AI workloads. Jared also touches on his predictions for the GPU market and the thinking behind his recent paper on designing compound AI systems.

Sign up for new podcasts every week. Email feedback to show@no-priors.com

Follow us on Twitter: @NoPriorsPod | @Saranormous | @EladGil | @jaredq_

Show Notes:

(00:00) Introduction

(02:42) Foundry background

(03:57) GPU utilization for large models

(07:29) Systems to run a large model

(09:54) Historical value proposition of the cloud

(14:45) Sharing cloud compute to increase efficiency

(19:17) Foundry’s new releases

(23:54) The current state of GPU capacity

(29:50) GPU market dynamics

(36:28) Compound systems design

(40:27) Improving open-ended tasks

  continue reading

91 Episoden

Artwork
iconTeilen
 
Manage episode 435548496 series 3444082
Inhalt bereitgestellt von Conviction. Alle Podcast-Inhalte, einschließlich Episoden, Grafiken und Podcast-Beschreibungen, werden direkt von Conviction oder seinem Podcast-Plattformpartner hochgeladen und bereitgestellt. Wenn Sie glauben, dass jemand Ihr urheberrechtlich geschütztes Werk ohne Ihre Erlaubnis nutzt, können Sie dem hier beschriebenen Verfahren folgen https://de.player.fm/legal.

In this episode of No Priors, hosts Sarah and Elad are joined by Jared Quincy Davis, former DeepMind researcher and the Founder and CEO of Foundry, a new AI cloud computing service provider. They discuss the research problems that led him to starting Foundry, the current state of GPU cloud utilization, and Foundry's approach to improving cloud economics for AI workloads. Jared also touches on his predictions for the GPU market and the thinking behind his recent paper on designing compound AI systems.

Sign up for new podcasts every week. Email feedback to show@no-priors.com

Follow us on Twitter: @NoPriorsPod | @Saranormous | @EladGil | @jaredq_

Show Notes:

(00:00) Introduction

(02:42) Foundry background

(03:57) GPU utilization for large models

(07:29) Systems to run a large model

(09:54) Historical value proposition of the cloud

(14:45) Sharing cloud compute to increase efficiency

(19:17) Foundry’s new releases

(23:54) The current state of GPU capacity

(29:50) GPU market dynamics

(36:28) Compound systems design

(40:27) Improving open-ended tasks

  continue reading

91 Episoden

すべてのエピソード

×
 
Loading …

Willkommen auf Player FM!

Player FM scannt gerade das Web nach Podcasts mit hoher Qualität, die du genießen kannst. Es ist die beste Podcast-App und funktioniert auf Android, iPhone und im Web. Melde dich an, um Abos geräteübergreifend zu synchronisieren.

 

Kurzanleitung