42 AI Chatbots & Open-Assistant

Techtiefen

In der 42. Folge dieses Podcasts geht es um die Technologie, die derzeit als die Antwort auf alles und nichts gesehen wird. Andreas Köpf von Open Assistant wird interviewt und es wird diskutiert, wie ChatGPT die Technologie-Revolution angestoßen hat und welche Auswirkungen sie auf die Zukunft hat. Es werden die Grundlagen von ChatGPT wiederholt und ein ausführlicher Blick auf das Reinforcement Learning from Human Feedback (RLHF) geworfen, das den Large Language Models hilft, den Absichten der Nutzer zu folgen. Open-Assistant wird als eine Open-Source-Alternative zu ChatGPT vorgestellt, die von einer engagierten Community aufgebaut wurde und deren Datensatz und Modelle mit freier Lizenz veröffentlicht wurden. Es wird auch diskutiert, welche Hardware und Modelle für das Training verwendet wurden. Ethik ist ein wichtiges Thema, da bei der Erstellung der Trainingsdaten darauf geachtet werden muss, welche Antworten auf potenziell gefährliche Fragen die richtigen sind. Schließlich wird ein Blick auf die gesellschaftliche Dimension geworfen und über die bevorstehenden Transformationen und nächsten Entwicklungsschritte diskutiert.

Links:

• OpenAssistant Project
• Youtube Channel von Yannic Kilcher

Kapitel

1. Zu Gast: Andreas Köpf (00:01:06)

2. Transformer, GPT und andere Grundlagen (00:11:26)

3. Reinforcement learning from human feedback (SFT + RW) (00:26:34)

4. Trainingsdaten sammeln (00:38:37)

5. RLHF Step 3 (00:47:30)

6. Wie lief der Trainingsprozess (01:14:46)

7. Plugins (01:34:30)

8. Ethiks (01:44:25)

9. Das besondere an Open-Source (01:51:17)

10. What's about to come (02:04:23)

11. Die große Transformation? (02:22:14)

12. Bis Bald (02:31:50)