Обучаем нейросеть онлайн
Небольшая статья о том как я под впечатлением статьи с Хабра " Возможно, самый гениальный код на python на сегодня: разбираем 200-строчный microgpt от Андрея Карпаты " решил проверить все это на практике, и перенес код при помощи нейросети в онлайн формат.
Such a fun demonstrator by Karpathy, MicroGPT.
http://karpathy.github.io/2026/02/12/microgpt/
#ai #microgpt #karpathy
Microgpt explained interactively
https://growingswe.com/blog/microgpt
#HackerNews #Microgpt #Interactive #Explanation #Technology #AI #Learning
Anders Marksen (@andersmarksen)
Andrej Karpathy가 초경량 GPT 프로젝트 'microgpt'를 공개(링크 공유). 20년 전에는 상상하기 어려웠을 만큼 경량화된 LLM 구현을 지향하는 오픈소스/연구 성과로, 저자원 환경이나 임베디드 적용 가능성을 높이는 혁신적 시도로 볼 수 있다.
Tutorial on creating a mini-"AI" which generates plausible names trained with a list of 32000 names.
Justin H. Johnson (@BioInfo)
200줄, 의존성 없음으로 구현된 'Full GPT' 예제가 공개됨: 토크나이저, autograd, 트랜스포머, Adam 옵티마이저, 학습과 추론까지 포함. Karpathy가 수년간의 ML 지식을 하나의 파일로 압축한 형태로 교육적·오픈소스 관점에서 주목받음(링크 포함).
VictorSanchez (@VictorSanchez)
@karpathy에게 영감을 받았다고 밝히며 'microGPT Studio' 출시를 알립니다. 이 도구는 브라우저에서 작은 GPT를 학습하고 시각화할 수 있게 하며 JavaScript, Rust/WASM, WebGPU를 활용합니다. 데모 링크를 제공해 브라우저 기반 모델 학습·시각화의 실용적 예시를 보여줍니다.
vixhaℓ (@TheVixhal)
Karpathy의 microgpt에서 영감을 받아 작성된 'microgpt.c' 프로젝트 소개입니다. 완전 수동 전·후방 전파를 구현한 순수 C 코드로 약 600줄이며 외부 라이브러리나 의존성이 전혀 없어 순수 연산으로 동작한다는 내용입니다.
Logan Thorneloe (@loganthorneloe)
Andrej Karpathy의 'microgpt'를 강력히 추천하는 글입니다. 길고 이론적인 책이나 긴 강좌 대신 실습 중심으로 LLM의 기술적 세부사항을 바로 이해하고 다뤄볼 수 있게 해주는 간단하고 가독성 높은 리소스라는 내용입니다.
[Перевод] Возможно, самый гениальный код на python на сегодня: разбираем 200-строчный microgpt от Андрея Карпаты
Буквально на днях Андрей Карпаты, один из ранних сооснователей OpenAI, покинувший компанию, исследователь нейросетей, опубликовал на Гитхаб фантастическую вещь: чистый (без специализированных библиотек) 200-строчный python-код трансформера, аналога GPT-2, для изучения всеми желающими. И написал в блоге статью для понимания этого кода (и работы трансформеров). Я перевёл статью и комментарии к коду — ведь этот код (я уверен!) войдёт в ИТ-историю... Присоединяйтесь к этому завораживающему сеансу разоблачения gpt-магии, за считанные годы овладевшей миром!..
https://habr.com/ru/articles/996404/?utm_source=habrahabr&utm_medium=rss&utm_campaign=996404
[Перевод] Возможно, самый гениальный код на python на сегодня: разбираем 200-строчный microgpt от Андрея Карпаты
Буквально на днях Андрей Карпаты, один из ранних сооснователей OpenAI, покинувший компанию, исследователь нейросетей, опубликовал на Гитхаб фантастическую вещь: чистый (без специализированных библиотек) 200-строчный python-код трансформера, аналога GPT-2, для изучения всеми желающими. И написал в блоге статью для понимания этого кода (и работы трансформеров). Я перевёл статью, комментарии к коду и дополнил своими комментариями для лучшего понимания — ведь этот код (я уверен!) войдёт в ИТ-историю... Присоединяйтесь к этому завораживающему сеансу разоблачения gpt-магии, за считанные годы овладевшей миром!..
Я заразил 200 нейросетей вирусом. К 20-му поколению они выработали иммунитет — и разучились думать
Что общего у бактерий в чашке Петри и языковых моделей? Я провел эксперимент: создал популяцию из 200 microGPT и «заразил» их вредоносным паттерном. Через 20 поколений эволюции нейросети научились выживать, но цена этого иммунитета оказалась пугающей. Разбираемся, как работает Alignment Tax на практике и почему «безопасные» модели неизбежно глупеют.
https://habr.com/ru/articles/996244/?utm_source=habrahabr&utm_medium=rss&utm_campaign=996244
#AI #LLM #GPT #Alignment_Tax #PyTorch #Эволюционные_алгоритмы #Машинное_обучение #Безопасность_ИИ #microGPT #Нейросети
Я заразил 200 нейросетей вирусом. К 20-му поколению они выработали иммунитет — и разучились думать
Что общего у бактерий в чашке Петри и языковых моделей? Я провел эксперимент: создал популяцию из 200 microGPT и «заразил» их вредоносным паттерном. Через 20 поколений эволюции нейросети научились выживать, но цена этого иммунитета оказалась пугающей. Разбираемся, как работает Alignment Tax на практике и почему «безопасные» модели неизбежно глупеют.
https://habr.com/ru/articles/996244/
#AI #LLM #GPT #Alignment_Tax #PyTorch #Эволюционные_алгоритмы #Машинное_обучение #Безопасность_ИИ #microGPT #Нейросети
möchtegern (@heft_ig)
'Neural Networks: Zero to Hero'라는 교육 자료(강의 맵)가 Karpathy의 강의/비디오와 직접 매핑된다는 안내 트윗입니다. 문서(또는 페이지)는 micrograd(학습용 autograd 구현) 설명과 microgpt.py 예제, 그리고 Claude Opus 4.6 언급을 포함해 신입·개발자 대상 학습 경로를 제시합니다.
Oh, and I'm so doing a hackathon focused on running #machinelLearning on this baby at some point. #MicroGPT anyone ?!@Raspberry_Pi
