FiveTech Support Forums

Ilya Sutskever gave John Carmack this reading list of approx 30 research papers and said, ‘If you really learn all of these, you’ll know 90% of what matters today (in AI)’

John Carmac (autor de los juegos Doom, Wolfenstein) tuyo una reunion con Ilya Sutskever en la que le preguntó como aprender lo esencial de la IA. Ilya le proporcionó una lista de artículos que debia revisar para entender el 90% de la IA actual.
Ilya ha sido el cerebrito de OpenAI y ahora ya está por su cuenta. Previo a OpenAI estuvo en Google DeepMind y antes con Geoffrey Hinton a quien se le considera el Padre de la IA moderna. Estos videos que estoy haciendo con la ayuda de NotebookLM son "la lista" que le dió Ilya a John Carmac 🙂

https://github.com/FiveTechSoft/ilya-sutskever-recommended-reading

https://deepwiki.com/dzyim/ilya-sutskever-recommended-reading

1. El Transformer Anotado
https://youtu.be/_wlrvtYzXYw?si=z1MRZ3LTtKIiFj13

2. La Primera Ley de la Complejidinámica

https://youtu.be/o0Ofzcl1FuE?si=tskileA9rlAqnD4y

3. Eficacia Irrazonable de RNNs

https://youtu.be/lXdNe2Poua0?si=ZfwgotmSxhSyBgb9

4. Entendiendo las Redes LSTM

https://youtu.be/-e0fETuRv9M?si=o6onfbhJdJSMLX_l

5. Regularización de RNNs

https://youtu.be/GBtom3ANrsM?si=txE906HB3wLXfrXc

6. Simplificando la IA

https://youtu.be/Zj5-pYG61m8?si=7E2gzmNDgG6o_qpG

7. Pointer Networks

https://youtu.be/kpxXS3c4rWs?si=sAMVrhjlIXVGdQ8S

8. AlexNet La Revolución de la IA

https://youtu.be/l-m5_GrBZLI?si=tZ41ZL_fjTks_B5S

9. El Orden Importa

https://youtu.be/WV2ifkC5Etw?si=ijxbjkb-gh7BlLmH

10. GPipe IA sin Límites

https://youtu.be/xtXV7qk2vOo?si=xIdBpiXmjMm518f8

11. Aprendizaje Residual Profundo

https://youtu.be/OJvJnHzyv_o?si=jRAGCma-79RYmS6H

12. Convoluciones Dilatadas

https://youtu.be/1MIoNO1m84E?si=NRDgMh75nNN16CgD

13. IA y el Lenguaje Molecular

https://youtu.be/yzJZ7XWvMGg?si=JLsizMOYY4GcjiCz

14. Attention Is All You Need

https://youtu.be/vrCiTT0XyL8?si=TiSRBeKxBN6STHzy