> уже лет 10 как можно было бы
Нормальные локальные чатботы появились только в августе-сентябре прошлого года, с мифомаксом и мистралью 7B.