Еволюція Snake Lab (2/4)

У попередньому дописі я налаштував локальну LLM на старій робочій станції HP Z440 й написав примітивний цикл розмови. Генерував випадкові числа, передавав їх мовній моделі та просив писати про них хайку.

Логотип Snake Lab

Це працювало.

У моєму підвалі стояла машина, яка писала вірші про випадкові числа.

Природно, наступне запитання було таким: а що ще я можу змусити цю штуку робити?

Експериментуючи з моделлю, я виявив, що вона знала про дослід Патріка Лебера, у якому ШІ навчається грати в «Змійку». Це привернуло мою увагу, адже я добре знав цей експеримент: уже доволі давно працював із його кодом і змінював його.

І в мене виникла ідея.

А що, як замість прохання писати хайку передати LLM результати симуляції «Змійки»?

Я міг би передати конфігурацію, що дала ці результати, попросити модель проаналізувати їх, а потім запропонувати нову конфігурацію. Далі можна було б запустити її в симуляторі, зібрати результати, повернути їх до LLM і повторити цикл.

Інакше кажучи:

Чи можу я змусити одну LLM оптимізувати інший ШІ?

Згодом ця ідея перетворилася на Fr3d.

Але була проблема.


Старий проєкт AI Snake Lab

Я пройшов навчальний курс Патріка Лебера, а потім вирішив розвивати проєкт далі. Переніс його на Textual і замінив старі графіки Matplotlib вбудованими графіками Textual Plot. Застосунок розділився на окремі процеси клієнта та сервера, які спілкувалися через ZeroMQ. Результати симуляцій зберігалися в базі даних.

Клієнт Textual дозволяв налаштувати симуляцію, надіслати конфігурацію серверу, запустити експеримент і спостерігати за його перебігом.

Це вже було значно більше, ніж просто гра «Змійка».

Але все ще залишалося застосунком. Його архітектура виросла з припущення, що за клієнтом сидить людина, яка власноруч проводить експерименти.

Fr3d змінив це припущення.


Створення лабораторії

Я взяв наявний код гри та виокремив із нього новий незалежний проєкт: Snake Lab Server.

Основна ідея була проста: серверу Snake Lab має бути байдуже, хто саме проводить експеримент.

Клієнт надсилає JSON-конфігурацію через ZeroMQ. Сервер перевіряє її, ставить експеримент у чергу, запускає симуляцію, збирає метрики та зберігає результати в MariaDB.

Сам сервер працює як служба systemd.

Тепер ним могла користуватися LLM. Або сценарій Python. Або термінальний застосунок. Або щось таке, чого я ще навіть не вигадав.

Симулятору не потрібно цього знати.

Я також переніс свій клієнт Textual на нову систему. Мені, як і раніше, хотілося самостійно запускати експерименти, а головне — спостерігати за ними.

Є щось значно приємніше в тому, щоб бачити, як змійка рухається полем, ніж у спогляданні чисел, які пробігають у журналі.

Але тепер інтерфейс Textual був лише одним із клієнтів.

Це важлива відмінність.


Експеримент — це більше, ніж рекорд

Я також хотів, щоб Snake Lab Server досить суворо визначав, що вважати експериментом.

Перш ніж симуляцію буде прийнято, її конфігурацію перевіряють. Конфігурацію конкретного запуску зберігають. Результати теж зберігають. Метрики збирають протягом усієї симуляції, включно з даними для окремих ігор та епізодів.

Це важливо, тому що я хотів ставити не лише запитання:

Чи набрала ця змійка більше очок?

А й інше:

Що саме ми запускали й що в результаті сталося?

Якщо автоматизована система проводитиме сотні експериментів, відповідь має залишатися доступною ще довго після завершення кожного з них.

Інакше в мене була б не лабораторія.

А ігровий автомат.


Усе готово для дослідника

Так з’явився Snake Lab Server.

Це ще не був Fr3d.

Ще не існувало автономного дослідника на основі LLM, який аналізує результати, обмірковує конфігурації та сам вирішує, який експеримент провести далі. Цю частину ще належало створити.

Але тепер йому було де працювати.

Я почав зі штучного інтелекту, який учився грати в «Змійку». Потім він перетворився на клієнт-серверний застосунок для експериментів. А тепер застосунок еволюціонував ще раз — у службу, створену спеціально для того, щоб інше програмне забезпечення могло проводити контрольовані експерименти зі ШІ «Змійки».

Лабораторія була готова.

Тепер треба було створити дослідника.


Посилання

2026

Git Automation

Some of you may have read my Git Battles post, where I talked about how I developed and a documented a Git workflow.

My blog in Simplified Chinese

I recently built MyCount to track website visitors to my projects. I found that that over 40% of my visitors were from China, and that 35% of those used a Ch...

MyCount: Website Analytics & Marketing

I have a future project in mind which will require a Dynamic DNS service. I created BMDynIP for that purpose. After building the service, I wanted a simple a...

Animating Ax3l Playing Snake

I’ve been tinkering with various incarnations of Patrick Loeber’s Train an AI to Play Snake tutorial for a while now. It’s my relaxing goto project that’s fu...

Dynamic DNS Service

This project started as a cron job and a flatfile and -honestly- that would work perfectly well for a small home setup. Say, two or three machines. I’m curre...

Local GeoIP Database

The Bear & Moose GeoIP Project provides an easy-to-use GeoIP service for your applications and for interactive lookups.

An LLM to organize my Movies

Our first TV was a small black-and-white thing where, on rare occasions, we’d watch Animal Kingdom. Then Beta and VHS came along, and you could watch them at...

From Prototype to Product (4/4)

Fr3d worked: It could talk to the Snake Lab, propose changes to the RNN configuration, run experiments, look at the results, and try again. It proved the ide...

Prompt Engineering 101 (3/4)

The Snake Lab had become a proper server, with a ZeroMQ API, configuration validation, a database, and a way to run experiments independently of the client. ...

The Evolution of Snake Lab (2/4)

In my last post, I setup a locally hosted LLM running on an old HP Z440 and wrote a crude little conversation loop. I generated random numbers, fed them to t...

Local LLM Writes Haikus (1/4)

This is part one of a four part blog series. In this post, I download, install and setup some software to prompt a local LLM to write haikus…

From Seed to Signal: AI FX

In the first post, AI FX was still mostly a seed: a repo, a PyPI package, and an idea about using automated FOREX tooling as a learning lab. Since then, the ...

Simulating the Power Grid

A potential client pointed me to Empowering the Energy Transition Through Fast and Flexible Network Simulation. The article describes an Open Source project,...

Delphi in a Day

I have a prospective client who runs a small group of technology businesses, at least one of which integrates with clients using the Delphi programming lan...

A Small Experiment: AI FX

I’ve spent some time around trading systemsL At Merrill Lynch, I supported the Order Audit Trail System (OATS), a compliance system required by NASDAQ. Its p...

Back to top ↑

2025

My Art on Etsy

I setup an Etsy Storefront to sell high quality, museum grade prints of some of my artwork.

Python systemctl Wrapper

I’ve been working on Db4E, my Monero deployment, operations and analytics platform. It uses Linux systemd to spin up manage Monero, P2Pool and XMRig instance...

AI Snake Lab

AI Snake Lab is an interactive reinforcement learning sandbox for experimenting with AI agents in a classic Snake Game environment — featuring a live Textual...

The Power of Pictures

You know that saying, “A picture is worth a thousand words.”? In programming, I’d argue it can be worth a thousand lines of code…

Caring About Constants

This post is about using constants in your code. Why it matters, what the benefits are and how you can do it well. I’m sad to say, I learned this the hard wa...

Why I Built Db4E

When I first started experimenting with Monero mining and self-hosted infrastructure, I did what everyone else does: I downloaded the Monero software, the P2...

Releasing with Git

Let me be honest: Git has punched me in the face more times than I can count. Every time I think I’ve got a smooth release flow down, Git yells, “Not so fast...

Documentation Matters

I was burned by opaque documentation: I’ve been building a modern terminal UI in Python using the excellent Textual framework. It’s sharp, fast, and honestly...

Textual Replaces ApexCharts

The original reporting system was a set of static dashboards built using GitHub Pages, JavaScript, and ApexCharts. It pulled data from my mining setup — via ...

Pivot to Textual

I’ve been deep in the trenches with my Db4E project — pulling together Monero mining infrastructure, MongoDB integration, and a bunch of orchestration magic....

Released Db4E SystemD

I recently published a small Python module to PyPI and GitHub: db4e-systemd, a lightweight wrapper around systemctl that lets you control services (start, st...

NIKU Farms

I received my order from NIKU Farms, YAY! It’s a meat delivery that my sister, Corinna Ghaznavi, gifted me this Christmas. Every two months I receive this am...

The Main Website

As part of my goal to be more visible in the world, I setup this domain i.e. https://osoyalce.com. I use it to publish information about the projects I’m wor...

Reviving the Blog

It’s been a while since I started and then abandoned this blog. My last post was in June of 2024!!

Changing the Blog Site’s Layout

I decided that I didn’t like the way that the main blog page looks. I am using GitHub to host the website and am using a fork of the jekyll/minima theme. My ...

Back to top ↑

2024

Aquaponics Update #1

It’s in the construction phase. I need to complete the water circulation process. I bought a fiber glass kit for this (and also to fix my kitchen sink!).

What I’m working on

The XMR Mining Farm complete with this eye-popping chart The Bear and Moose Knowledge Base My resume MyZODB - A Place to Store Everything

Back to top ↑