Вход на сайт

Просмотр новости

Найдите то, что Вас интересует

Нейросеть трансформер на PDP 11/40

Дата публикации: 01-07-2026 14:04:31



Это не шутка. Крутой дед из настоящих сумел это сделать. Реальный программюга!https://www.youtube.com/watch?v=OUE3FSIk46gВ этом ролике на ютубе он немного рассказывает про свою коллекцию старых компов, объясняет про работу нейросетей вообще и трансформеров в частности, как он написал простенький трансформер на ассемблере для PDP-11. На машине с 32 Кб RAM, сама программа, включая обучение с back propagation, занимает чуть более 6 Кб. Конечно что-то серьёзное на таких ресурсах не заработает, но всё же это настоящий трансформер. У нейросетки 1200+ параметров, одна голова внимания. Контекст из 8 символов (Или только цифр? Не совсем понял). Нейросетка за несколько минут обучается переворачивать в обратном порядке входное число из 8 цифр.На видео всё есть: и машины и как панель PDP мигает лампочками и результат работы.Дэйв Пламмер (Dave Plummer) - бывший программист из Microsoft, в частности, он написал Task Manager для NT.



 pdp, история, нейронные сети



Основное содержимое страницы с новостью.

Это не шутка. Крутой дед из настоящих сумел это сделать. Реальный программюга!

https://www.youtube.com/watch?v=OUE3FSIk46g

В этом ролике на ютубе он немного рассказывает про свою коллекцию старых компов, объясняет про работу нейросетей вообще и трансформеров в частности, как он написал простенький трансформер на ассемблере для PDP-11. На машине с 32 Кб RAM, сама программа, включая обучение с back propagation, занимает чуть более 6 Кб. Конечно что-то серьёзное на таких ресурсах не заработает, но всё же это настоящий трансформер. У нейросетки 1200+ параметров, одна голова внимания. Контекст из 8 символов (Или только цифр? Не совсем понял). Нейросетка за несколько минут обучается переворачивать в обратном порядке входное число из 8 цифр.

На видео всё есть: и машины и как панель PDP мигает лампочками и результат работы.

Дэйв Пламмер (Dave Plummer) - бывший программист из Microsoft, в частности, он написал Task Manager для NT.

Схожие новости

#Наименование новостиТональностьИнформативностьДата публикации
1В чём реальная проблема ЛЛМ-5703-07-2026
2Мама, я программист: 7 лучших нейросетей для вайбкодинга3722-06-2026
3🤯 Ты ещё не используешь нейросети? А они уже генерируют ...7804-07-2026
4Нейро сети для самых маленьких. Часть первая (которая после нулевой). Удобство в прокрустовом ложе оптимизации0501-07-2026
5Как желание быстрее читать чужой код превратилось в войну с недетерминизмом LLM0528-06-2026
6Старикам тут не место-2625-06-2026
7LLM (ИИ) - О СЕРЬЕЗНОМ И НЕМНОГО ЮМОРА, КАК ОБЫЧНО ...2601-07-2026
8Как одна операция из линейной алгебры захватила мир ИИ7829-06-2026
9[Перевод] Самодельный BIOS для микшерного пульта и запуск DOS на нём0526-06-2026

Классификация: Наука. Схожих патентов: 0. Схожих новостей: 9. Тональность: 7. Информативность: 8. Источник: www.linux.org.ru.