Нейросеть на столе за 100 тысяч: что тянет Mac mini
Я купил Mac mini за 99 990 рублей под одну задачу: озвучивать ролики своим голосом без платного сервиса. Озвучка работает, минута звука готова за 40 секунд. Потом стало интересно, что ещё можно снять с облачной нейросети на коробку размером с толстую книгу.
Я прогнал четыре бесплатные модели через 33 задачи, которые есть в любом отделе маркетинга и продаж. Две из них, Gemma 4 от Google и Qwen 3.6 от Alibaba, справились почти как облачная нейросеть:
— в 10 учебных звонках из 12 верно назвали, почему сорвалась сделка; — разобрали 40-минутную встречу за 40 секунд и не поставили в протокол ни одного срока, которого не было в разговоре; — написали рабочий код.
GigaChat 3.1 от Сбера в том же протоколе поставила дедлайн с годом, который на встрече не звучал. Выдуманный срок опаснее пропущенного: пропуск заметят на следующей встрече, а дедлайн попадёт в чей-то календарь.
В деньгах Подписка на облачную нейросеть стоит около двух тысяч рублей в месяц. Мак вместо неё окупится года через четыре. Он окупается объёмом: сотни звонков в неделю, протоколы всех встреч, данные, которые нельзя выносить на чужой сервер.
Заголовки и тексты, которые должны цеплять, у локальных моделей пока плоские. Здесь облачная нейросеть заметно сильнее.
Замечание Минус, которого в статье нет. Однажды на долгом разборе книги мак завис так, что я не смог войти. За семь часов он записал на диск 307 ГБ: сервер модели держал в памяти кэш старых запросов, и всё, что не помещалось в 16 ГБ, уходило в своп. Кэш я выключил и поставил сторожа, который останавливает модель, если своп начинает расти. На таком маке память приходится настраивать руками.
Стенд, результаты по каждой задаче и калькулятор, за сколько Мак разберёт ваши звонки: Нейросеть на столе за 100 тысяч: проверил четыре локальные модели на Mac mini с 16 ГБ
Подведём итог: любую модель стоит проверить на десяти своих задачах с известным ответом, прежде чем доверять ей тысячу.
Какую работу в вашем отделе люди делают вручную только потому, что данные страшно отдавать облачному сервису?
Заметка выходила в Telegram-канале @evstygney_ru. Там такие разборы три раза в неделю.