Андрей Карпати только что выпустил полностековую реализацию LLM, подобную ChatGPT, с нуля. $300 на обучение модели, похожей на GPT-2, за ~12 часов. 100% с открытым исходным кодом.