Де ваші AI-моделі почуваються "як вдома"? Шукаю стабільне середовище
Привіт!
Зіткнувся з проблемою, яка, мабуть, знайома багатьом, хто грається з серйозними моделями. Локально на компі все працює, а коли намагаєшся вивести це в продакшн або дати доступ команді — починається пекло з версіями, залежностями і падінням серверів.
Шукаю якесь комплексне рішення, щоб не витрачати 50% часу на DevOps. Попалася на очі стаття про AI Studio https://dnipro.org.ua/ai-studio-seredovyshche-u-iakomu-shi-modeli-pratsiuiut-upevneno/ і концепція спеціалізованого середовища виглядає як вихід. Хочеться просто завантажити код і знати, що воно працюватиме стабільно.
Хтось користується подібними managed-рішеннями? Чи краще все-таки піднімати свій Kubernetes і страждати, але мати повний контроль? Що порадите?
Додайте перший коментар!
тут обговорюємо питання щодо створення та роботи ОСББ