Wszystkie wpisy

Wewnętrzny asystent AI QA - praktyka, nie produkt (listopad 2024)
Wewnętrzny asystent AI QA - praktyka, nie produkt (listopad 2024)

English

Wewnętrzny asystent AI QA - praktyka, nie produkt (listopad 2024)

Listopad 2024: wąski GPT / Assistants na syntetycznych notatkach QA. Prior art z DevDay 2023. Bez nazw klientów i bez premiery produktu.

QA

Wąski pomocnik, nie launch

Jest 15 listopada. Od roku mam GPTs i Assistants API. Dziś składam własny, wąski asystent do pytań “jak u nas odpalamy testy”. To nie jest agent na pulpicie. To nie jest produkt na sprzedaż. To nie jest case study u nazwanego klienta.

Moja teza na listopad 2024 jest wąska. “Wewnętrzny asystent QA” to GPT albo wątek Assistants na syntetycznej bazie: proces testów, konwencje lokatorów, jak czytać nightly. Prior art jest z DevDay 6 listopada 2023, nie z tego miesiąca. Odpowiedź idzie przez recenzję. Model nie odpala suite i nie jest quality gate.

Stan warsztatu. Runner to Playwright 1.48.2 z 25 października. Model w asystencie to GPT-4o albo gpt-4o-mini. o1-preview od 12 września zostaje opcją, nie pinem. .NET 9 jest GA od 12 listopada; przykłady w notatkach zostają na 8, bo nie przepisuję stacku w tydzień. Claude 3.5 z 22 października umie computer use. To nie jest ten wpis.

Czego tu nie będzie. Nie będzie nazw firm i dumpów Confluence. Nie będzie premiery SaaS. Nie będzie bake-off Pinecone kontra Weaviate. Nie będzie pinu 1.49.0. Będzie syntetyczny korpus: jedna strona procesu, jedna konwencja data-testid, jeden opis nightly, trzy pytania i jedno-pułapka.

Prior art, nie wynalazek

6 listopada 2023 OpenAI pokazało custom instructions, pliki i tools. W podsumowaniu 2023 DevDay był nagłówkiem roku, nie procedurą. 2024 dało tańszy model (4o mini od 18 lipca) i lepszy czat (GPT-4o od 13 maja). To jest zmiana kosztu. To nie jest nowa kategoria.

W styczniu 2023 miałem czat bez plików. W lutym strukturę promptu. W październiku 2023 docs z ticketu. Asystent składa te trzy rzeczy: instrukcję, korpus, recenzję. Nie wymyślam API.

W styczniu 2024 pisałem, że pętla z celem nie jest ownerem suite. Asystent z plikami też nie. Różnica listopada jest wąska: nie daję celu “napraw nightly”, tylko pytam o konwencję, którą sam włożyłem.

Co wkładam

Korpus jest syntetyczny i krótki. Skrót procesu: co jest bramką, co jest dymem, co jest nocą. Konwencja z POM: lokator nie mieszka w specu, data-testid jest wyjątkiem, nie defaultem. Trzy triggery z strategii CI. Akapit, jak czytać szkic nightly: liczba, klastry, nowość kontra znany timeout. Zero ticketów klienta.

Sekretów nie wkładam. W listopadzie 2023 pisałem, że PII i tokeny nie idą do czatu. Korpus asystenta jest tym samym czatem, tylko z plikami. Connection string, NIP, faktura, nazwisko z Jiry nie wchodzą.

Cursor w edytorze nie jest tym asystentem. Jedno zdanie i koniec.

Czego nie wolno asystentowi

Nie odpalam dotnet test z czatu jako gate. Nie wklejam .env. Halucynowany job CI skreślam tak samo jak przy triage w lipcu 2023.

Pytanie-pułapka z tego tygodnia: “czy job api-contract-nightly jest required na PR?“. W korpusie nie ma takiego joba. Asystent ma powiedzieć “nie wiem”. Gdy dopisał YAML, którego nie włożyłem, skreślam odpowiedź. To jest ten sam odruch co przy zmyślonym data-testid przy specu.

Computer use Claude od 22 października zostawiam jako nagłówek. Agent klikający IDE nie recenzuje moich notatek. Nie robię z niego daily.

Recenzja jak PR

Odpowiedź jest draftem. Sprawdzam cytat wobec pliku. Jeśli zdania nie ma w korpusie, asystent ma odmówić, nie zgadywać procesu “jak w innych firmach”.

Trzy pytania, które w tym tygodniu przeszły recenzję.

Pierwsze: jak odpalam logowanie lokalnie. Odpowiedź cytuje notatkę procesu i pin 1.48.2. Zgadza się z plikiem.

Drugie: gdzie siada load. Odpowiedź cytuje triggery: nightly albo scheduled, nie required na PR. Zgadza się ze strategią.

Trzecie: czy wolno merge przy czerwonym nightly. Odpowiedź: bramka PR jest osobno; nightly nie blokuje merge’a samą czerwonością, ale nowy fail na logowaniu idzie do ticketu zanim udaję, że nocy nie było. To jest proces, nie automat.

Pułapka o nieistniejącym jobie nie przeszła. Dlatego asystent nie jest gatem.

Podsumowanie

W listopadzie 2024 wąski pomocnik na własnych notatkach. Nie launch. Nie sklep RAG. Nie asystent u klienta.

Trzy zdania na rok. DevDay 2023 dał instrukcję i pliki; 2024 dało tańszy model. Ja recenzuję cytat wobec korpusu i skreślam job, którego nie włożyłem. Suite nadal odpala runner, nie czat.

Czego z tego nie wynika. Nie wynika, że mam produkt. Nie wynika, że 1.49 już u mnie siedzi. Nie wynika, że computer use prowadzi testy.

Warunek dojrzałości: dwa pytania pod rząd, na które korpus nie zna odpowiedzi, kończą się “nie wiem”, nie YAML-em z wyobraźni.