Чем нейросеть отличается от обычной программы

Обычная программа — это инструкция. Программист пишет: «если сумма больше тысячи, дай скидку пять процентов». Компьютер послушно исполняет. Всё предсказуемо, и ничего сверх написанного программа не сделает.

А теперь попробуйте написать инструкцию «как узнать кошку на фото». Уши треугольные? У лисы тоже. Усы? У тюленя тоже. Кошка свернулась клубком, спряталась за шторой, сфотографирована сверху — и все правила рассыпаются. Такие задачи правилами не решить. Здесь и нужна нейросеть: ей не объясняют, как выглядит кошка, ей показывают кошек.

Как нейросеть учится

Внутри нейросети — огромное количество связей, у каждой есть «вес»: насколько сильно она влияет на ответ. Сначала веса случайные, и сеть отвечает наугад. Ей показывают фото, она говорит «собака», ей сообщают: неправильно, это кошка. Веса чуть-чуть подкручиваются, чтобы в следующий раз ошибка была меньше.

Повторите это миллионы раз — и сеть начинает узнавать кошек на снимках, которых никогда не видела. Количество таких подстраиваемых связей называют параметрами. У больших языковых моделей их миллиарды, поэтому обучение занимает месяцы и стоит очень дорого.