https://paweldubiel.com A public digital garden about AI, software engineering, books, and learning. pl-PL Sun, 26 Apr 2026 00:00:00 GMT https://paweldubiel.com/notes/42ah1%E2%81%9D%20Scaling%20Laws https://paweldubiel.com/notes/42ah1%E2%81%9D%20Scaling%20Laws Sun, 26 Apr 2026 00:00:00 GMT Scaling laws w LLM to empiryczne zależności mówiące, jak jakość modelu zmienia się wraz ze wzrostem liczby parametrów, ilości danych i budżetu obliczeniowego. W praktyce opisują one, że większy model trenowany na większe https://paweldubiel.com/notes/42ah10%E2%81%9D%20Universal%20Representations%20I%20Universal%20Phenomena https://paweldubiel.com/notes/42ah10%E2%81%9D%20Universal%20Representations%20I%20Universal%20Phenomena Sun, 26 Apr 2026 00:00:00 GMT różne modele, trenowane niezależnie, często uczą się podobnych wewnętrznych struktur, cech i mechanizmów. Czyli np. dwa różne LLM y mogą mieć inne wagi, inną architekturę, inny tokenizer i inny rozmiar, ale mimo to w śro https://paweldubiel.com/notes/42ah2%E2%81%9D%20Edge%20Of%20Stability https://paweldubiel.com/notes/42ah2%E2%81%9D%20Edge%20Of%20Stability Sun, 26 Apr 2026 00:00:00 GMT Edge of stability to zjawisko w treningu sieci neuronowych, gdzie " loss landscape sharpness ." zwykle mierzona największą wartością własną Hessian matrix , utrzymuje się blisko granicy gdzie η to learning rate. Innymi s https://paweldubiel.com/notes/42ah4%E2%81%9D%20Neural%20Feature%20Ansatz https://paweldubiel.com/notes/42ah4%E2%81%9D%20Neural%20Feature%20Ansatz Sun, 26 Apr 2026 00:00:00 GMT Neural Feature Ansatz NFA to hipoteza w teorii głębokiego uczenia, która opisuje, jak sieci neuronowe "uczą się" cech z danych. Mówi, że po nauczeniu macierz Grama wag pierwszej warstwy jest proporcjonalna do pewnej potę https://paweldubiel.com/notes/42ah4a%E2%81%9D%20Grokking https://paweldubiel.com/notes/42ah4a%E2%81%9D%20Grokking Sun, 26 Apr 2026 00:00:00 GMT Grokking w uczeniu maszynowym to zjawisko, w którym model najpierw wydaje się tylko zapamiętywać dane treningowe ma bardzo niski błąd na uczących, ale słabo generalizuje , a po długim czasie treningu nagle zaczyna dużo l https://paweldubiel.com/notes/42ah5%E2%81%9D%20Critical%20Batch%20Size https://paweldubiel.com/notes/42ah5%E2%81%9D%20Critical%20Batch%20Size Sun, 26 Apr 2026 00:00:00 GMT Dotyczy granicy, po której zwiększanie batch size poprawia throughput, ale zaczyna szkodzić efektywności tokenowej. Najnowsze prace badają to bezpośrednio dla pretrainingu modeli językowych, np. OLMo 1B/7B. 42ah⁝ Czy moż https://paweldubiel.com/notes/42ah6%E2%81%9D%20%C2%B5P%20I%20Transfer%20Hyperparametr%C3%B3w https://paweldubiel.com/notes/42ah6%E2%81%9D%20%C2%B5P%20I%20Transfer%20Hyperparametr%C3%B3w Sun, 26 Apr 2026 00:00:00 GMT µP mówi: dobierz parametryzację tak, aby optymalne hyperparametry przenosiły się z małego modelu na duży. To jest bardzo istotne dla LLM, bo pozwala stroić małe proxy modele zamiast pełnych drogich runów 42ah⁝ Czy możemy https://paweldubiel.com/notes/42ah7%E2%81%9D%20Implicit%20Regularization%20Przez%20Hyperparametry https://paweldubiel.com/notes/42ah7%E2%81%9D%20Implicit%20Regularization%20Przez%20Hyperparametry Sun, 26 Apr 2026 00:00:00 GMT Learning rate, batch size, weight decay, scheduler itd. wpływają nie tylko na szybkość uczenia, ale też na rozwiązanie, do którego model dochodzi. 42ah⁝ Czy możemy zbudować teorię fizyki procesu uczenia, która przewiduje https://paweldubiel.com/notes/42ah8%E2%81%9D%20Lazy%20Learning%20Vs%20Rich%20Learning https://paweldubiel.com/notes/42ah8%E2%81%9D%20Lazy%20Learning%20Vs%20Rich%20Learning Sun, 26 Apr 2026 00:00:00 GMT Rama teoretyczna do opisu reżimu uczenia. W kontekście dużych sieci/transformerów j 42ah⁝ Czy możemy zbudować teorię fizyki procesu uczenia, która przewiduje makroskopowe zachowania sieci? https://paweldubiel.com/notes/42ah9%E2%81%9D%20Learning%20Rate%20-%20Batch%20Size%20Scaling%20Rules https://paweldubiel.com/notes/42ah9%E2%81%9D%20Learning%20Rate%20-%20Batch%20Size%20Scaling%20Rules Sun, 26 Apr 2026 00:00:00 GMT Jeśli zmieniam batch size, czyli liczbę przykładów/tokenów używanych w jednym kroku treningowym, to zwykle musz´ też zmienić learning rate, żeby trening nadal był stabilny i efektywny. Co robi learning rate? LR Learning https://paweldubiel.com/notes/42ah%E2%81%9D%20Czy%20mo%C5%BCemy%20zbudowa%C4%87%20teori%C4%99%20fizyki%20procesu%20uczenia%2C%20kt%C3%B3ra%20przewiduje%20makroskopowe%20zachowania%20sieci https://paweldubiel.com/notes/42ah%E2%81%9D%20Czy%20mo%C5%BCemy%20zbudowa%C4%87%20teori%C4%99%20fizyki%20procesu%20uczenia%2C%20kt%C3%B3ra%20przewiduje%20makroskopowe%20zachowania%20sieci Sat, 25 Apr 2026 00:00:00 GMT To jest ciekawy manifest, który moim zdaniem wyzywa do tego, aby skończyć udawać, że deep learning to tylko empiryczna inżynieria, gdzie najlepszą metodą jest odpalić 100 eksperymentów i zobaczyć, co zadziała. Zaczynamy https://paweldubiel.com/notes/42ag%E2%81%9D%20Trendslop%20AI https://paweldubiel.com/notes/42ag%E2%81%9D%20Trendslop%20AI Fri, 17 Apr 2026 00:00:00 GMT Wokół AI narosło i ciągle narasta dużo magicznego myślenia. Jedni traktują model jak mądrzejsze Google. Drudzy jak doradcę strategicznego. Trzeci jak kogoś, kto w końcu powie im prawdę. Tylko to wszystko to jest ściema. https://paweldubiel.com/notes/42ag1%E2%81%9D%20AI%20do%20legitymizacji%20decyzji%20przyk%C5%82ad https://paweldubiel.com/notes/42ag1%E2%81%9D%20AI%20do%20legitymizacji%20decyzji%20przyk%C5%82ad Fri, 17 Apr 2026 00:00:00 GMT Chodzi o spór między Kraftonem a Unknown Worlds , studiem od Subnautica . Krafton kupił studio w 2021 roku za 500 mln dolarów z góry, a do tego dorzucił możliwy earnout do 250 mln dolarów , jeśli zostaną spełnione określ https://paweldubiel.com/notes/63%E2%81%9D%20Cybercrime https://paweldubiel.com/notes/63%E2%81%9D%20Cybercrime Fri, 17 Apr 2026 00:00:00 GMT 63a⁝ Cyberbunker dalsza historia miejsca https://paweldubiel.com/notes/63a%E2%81%9D%20Cyberbunker%20dalsza%20historia%20miejsca https://paweldubiel.com/notes/63a%E2%81%9D%20Cyberbunker%20dalsza%20historia%20miejsca Fri, 17 Apr 2026 00:00:00 GMT Po obejrzeniu filmu Cyberbunker obejrzałem ten dość przeciętny film z wieloletnim poślizgiem miałem kilka pytań, jednym z nich co się teraz dzieje z tym miejscem. Pytań mam więcej, ale o ogólną niespójność historii, dużo https://paweldubiel.com/notes/42a5%E2%81%9D%20Claude%20Opus%204.7 https://paweldubiel.com/notes/42a5%E2%81%9D%20Claude%20Opus%204.7 Thu, 16 Apr 2026 00:00:00 GMT Claude Opus 4.7 Premiera Claude Opus 4.7 pokazuje coś, o czym w AI mówi się za mało: sam wzrost benchmarków nie oznacza jeszcze lepszego doświadczenia użytkownika. Na papierze Opus 4.7 wygląda bardzo mocno. Anthropic pod https://paweldubiel.com/notes/42a5b%E2%81%9D%20Ekonomia%20Token%C3%B3w https://paweldubiel.com/notes/42a5b%E2%81%9D%20Ekonomia%20Token%C3%B3w Thu, 16 Apr 2026 00:00:00 GMT Ekonomia Tokenów Ekonomia Tokenów w LLM Large Language Models to zbiór zasad, strategii i modeli opisujących, jak koszty, zarządzanie i wykorzystanie tokenów podstawowych jednostek przetwarzania tekstu wpływają na budżet https://paweldubiel.com/notes/42a5a%E2%81%9D%20Claude%20Opus%204.7%20System%20Card https://paweldubiel.com/notes/42a5a%E2%81%9D%20Claude%20Opus%204.7%20System%20Card Wed, 15 Apr 2026 00:00:00 GMT Claude Opus 4.7 System Card Claude Opus 4.7 to model będący rozwinięciem Opus 4.6. Nie wygląda na nową klasę systemu, ale na wyraźnie dopracowaną wersję z lepszymi wynikami w praktycznych zadaniach, szczególnie w softwar https://paweldubiel.com/notes/42a5a1%E2%81%9D%20Test-time%20Compute https://paweldubiel.com/notes/42a5a1%E2%81%9D%20Test-time%20Compute Wed, 15 Apr 2026 00:00:00 GMT Test time compute TTC w kontekście dużych modeli językowych LLM to dodatkowa moc obliczeniowa wykorzystywana podczas inferencji, czyli generowania odpowiedzi po treningu modelu, a nie w fazie uczenia. Pozwala to modelom https://paweldubiel.com/notes/33b%E2%81%9D%20Kwiecie%C5%84%20newsy%20AI https://paweldubiel.com/notes/33b%E2%81%9D%20Kwiecie%C5%84%20newsy%20AI Wed, 15 Apr 2026 00:00:00 GMT AI w marcu i kwietniu 2026: najważniejsze kierunki rozwoju Wiosną 2026 dyskusja o AI koncentruje się już nie tylko na samych modelach, ale na tym, jak te systemy działają w praktyce: jak bardzo są autonomiczne, jak dobrz https://paweldubiel.com/notes/42af%E2%81%9D%20AI%20Harness https://paweldubiel.com/notes/42af%E2%81%9D%20AI%20Harness Mon, 13 Apr 2026 00:00:00 GMT Dużo nowych terminów w związku z sieciami LLM powstaje na każdym kroku. A to jest ostatnie które mnie prześladuje na każdym kroku "Harness" przynajmniej od lutego 2026. Po polsku: AI harness to uprząż. Warstwa otaczająca https://paweldubiel.com/notes/42af1%E2%81%9D%20Lost%20in%20the%20Middle%20-%20How%20Language%20Models%20Use%20Long%20Contexts https://paweldubiel.com/notes/42af1%E2%81%9D%20Lost%20in%20the%20Middle%20-%20How%20Language%20Models%20Use%20Long%20Contexts Mon, 13 Apr 2026 00:00:00 GMT Ten paper sprawdza, czy modele językowe naprawdę dobrze korzystają z długiego kontekstu. Czyli: mamy dużo tekstu, dokumentów albo danych wrzuconych do prompta i pytanie brzmi, czy model potrafi znaleźć ważną informację n https://paweldubiel.com/notes/42af2%E2%81%9D%20Anthropic https://paweldubiel.com/notes/42af2%E2%81%9D%20Anthropic Mon, 13 Apr 2026 00:00:00 GMT Anthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems. 42af⁝ AI Harness https://paweldubiel.com/notes/20260408%E2%81%9D%20Mythos%20(Claude)%20Karta%20Modelu%20PL https://paweldubiel.com/notes/20260408%E2%81%9D%20Mythos%20(Claude)%20Karta%20Modelu%20PL Wed, 08 Apr 2026 00:00:00 GMT Mythos Claude Model Card PDF cdn.anthropic.com/53566bf5440a10affd749724787c8913a2ae0841.pdf Pierwsza: oni tego modelu normalnie nie wypuścili . To już samo w sobie jest mocne. Anthropic pisze wprost, że Mythos Preview po https://paweldubiel.com/notes/20260408%E2%81%9D%20Mythos%20(Claude)%20Model%20Card https://paweldubiel.com/notes/20260408%E2%81%9D%20Mythos%20(Claude)%20Model%20Card Wed, 08 Apr 2026 00:00:00 GMT Mythos Claude Model Card Claude Mythos Preview Anthropic's Most Capable Frontier Model April 7, 2026 Status : ❌ Not publicly released deployed only in limited defensive cybersecurity partnerships PDF cdn.anthropic.com/53 https://paweldubiel.com/notes/42ae%E2%81%9D%20Lokalne%20modele%20dost%C4%99pne%20z%20ka%C5%BCdego%20miejsca https://paweldubiel.com/notes/42ae%E2%81%9D%20Lokalne%20modele%20dost%C4%99pne%20z%20ka%C5%BCdego%20miejsca Wed, 01 Apr 2026 00:00:00 GMT Uruchamianie dużych modeli językowych lokalnie ma jeden zasadniczy minus: najmocniejszy sprzęt rzadko jest tym, przy którym akurat siedzimy. Mocne GPU zazwyczaj mieszka w głośnym PC pod biurkiem, a pracować chcemy na lek https://paweldubiel.com/notes/42ac%E2%81%9D%20ChatJimmy.ai%20-%2015-17k%20token%C3%B3w%20na%20sekund%C4%99 https://paweldubiel.com/notes/42ac%E2%81%9D%20ChatJimmy.ai%20-%2015-17k%20token%C3%B3w%20na%20sekund%C4%99 Tue, 31 Mar 2026 00:00:00 GMT ChatJimmy.ai 42ac1⁝ Taalas HC1 osiąga 15 17 tys. tokenów/sekundę na Llama 3.1 8B, wypierając GPU dzięki wbudowaniu wag modelu bezpośrednio w krzem mask ROM recall fabric . Eliminuje "memory wall" brak HBM/VRAM, obliczeni https://paweldubiel.com/notes/42ad1%E2%81%9D%20StepFun https://paweldubiel.com/notes/42ad1%E2%81%9D%20StepFun Tue, 31 Mar 2026 00:00:00 GMT Kwiecień 2026 StepFun to chińska firma AI z Szanghaju, rozwijająca multimodalne modele bazowe i otwarte modele pod marką stepfun ai . Nazwa: StepFun / 阶跃AI Typ: startup / laboratorium modeli bazowych AI. Założenie: kwiec https://paweldubiel.com/notes/42ad%E2%81%9D%20Najbardziej%20efektywny%20model%20dla%20OpenClaw https://paweldubiel.com/notes/42ad%E2%81%9D%20Najbardziej%20efektywny%20model%20dla%20OpenClaw Mon, 30 Mar 2026 00:00:00 GMT Gdy ma się pod ręką gotowe, dopracowane ekosystemy od OpenAI czy Anthropic, budowanie własnego "składaka" może wydawać się zbędną gimnastyką. Ma to jednak sens, gdy patrzymy na to przez pryzmat kosztów skali i kontroli n https://paweldubiel.com/notes/27g%E2%81%9D%20Mac%20Ultra%2C%20lokalne%20GPU%20czy%20chmura%20ASIC%20Gdzie%20uruchamia%C4%87%20modele%20w%20najbli%C5%BCszych%20miesi%C4%85cach https://paweldubiel.com/notes/27g%E2%81%9D%20Mac%20Ultra%2C%20lokalne%20GPU%20czy%20chmura%20ASIC%20Gdzie%20uruchamia%C4%87%20modele%20w%20najbli%C5%BCszych%20miesi%C4%85cach Sun, 29 Mar 2026 00:00:00 GMT Ostatnio zastanawiałem się nad różnymi opcjami sprzętowymi do lokalnego hostowania i serwowania modeli językowych. Wydać X tysięcy na Maca Ultra, czy może złożyć mocną stację roboczą z kilkoma kartami graficznymi? Im dłu https://paweldubiel.com/notes/42ac1%E2%81%9D%20Taalas https://paweldubiel.com/notes/42ac1%E2%81%9D%20Taalas Sun, 29 Mar 2026 00:00:00 GMT Taalas to kanadyjski startup z Toronto, specjalizujący się w tworzeniu niestandardowych chipów AI poprzez "utwardzanie" modeli sztucznych inteligencji bezpośrednio w krzemie. 42ac1a⁝ ASIC Firma założona około 2023 2024 r https://paweldubiel.com/notes/42ac1a%E2%81%9D%20ASIC https://paweldubiel.com/notes/42ac1a%E2%81%9D%20ASIC Sun, 29 Mar 2026 00:00:00 GMT ASIC Application Specific Integrated Circuit to układ scalony zaprojektowany i zoptymalizowany pod konkretne zadanie, w przeciwieństwie do uniwersalnych procesorów jak CPU czy GPU. 42ac1⁝ Taalas https://paweldubiel.com/notes/27f%E2%81%9D%20AMD%20Ryzen%209%209950X3D2 https://paweldubiel.com/notes/27f%E2%81%9D%20AMD%20Ryzen%209%209950X3D2 Sat, 28 Mar 2026 00:00:00 GMT AMD potwierdziło, że premiera procesora AMD Ryzen 9 9950X3D2 Dual Edition odbędzie się 22 kwietnia 2026 roku. Poprzednie topowe układy AMD z pamięcią 3D V Cache często wymagały od systemu operacyjnego specyficznego podej https://paweldubiel.com/notes/42aa%E2%81%9D%20Bezpieczne%20uruchamianie%20agent%C3%B3w%20AI%20wymaga%20izolacji%20od%20reszty%20systemu%20-%20nowe%20narz%C4%99dzie%20Jai https://paweldubiel.com/notes/42aa%E2%81%9D%20Bezpieczne%20uruchamianie%20agent%C3%B3w%20AI%20wymaga%20izolacji%20od%20reszty%20systemu%20-%20nowe%20narz%C4%99dzie%20Jai Sat, 28 Mar 2026 00:00:00 GMT W kontekście AI bezpieczeństwa mówi się o problemie związanym z agentami AI, takimi jak Claude Code czy Cursor. Dajemy im dostęp do naszych maszyn, żeby przyspieszyć pracę i zautomatyzować zadania, ale skutki mogą być op https://paweldubiel.com/notes/42ab%E2%81%9D%20Mathematical%20methods%20and%20human%20thought%20in%20the%20age%20of%20AI%20-%20NOTKA https://paweldubiel.com/notes/42ab%E2%81%9D%20Mathematical%20methods%20and%20human%20thought%20in%20the%20age%20of%20AI%20-%20NOTKA Sat, 28 Mar 2026 00:00:00 GMT Nie znalazłem w tekście szczególnie radykalnych tez. To raczej synteza znanych kwestii wokół AI niż próba zbudowania całkowicie nowych koncepcji. Jest tam jednak jedna interesująca rzecz. Autorzy przyrównują AI do pewneg https://paweldubiel.com/notes/27%20Hardware https://paweldubiel.com/notes/27%20Hardware Fri, 27 Mar 2026 00:00:00 GMT 27g⁝ Mac Ultra, lokalne GPU czy chmura ASIC? Gdzie uruchamiać modele w najbliższych miesiącach 27f⁝ AMD Ryzen 9 9950X3D2 https://paweldubiel.com/notes/27f1%E2%81%9D%20CCD%20(AMD) https://paweldubiel.com/notes/27f1%E2%81%9D%20CCD%20(AMD) Fri, 27 Mar 2026 00:00:00 GMT CCD CCD w procesorach AMD Ryzen / EPYC to fizyczny „chiplecik” z rdzeniami CPU mały osobny kawałek krzemu zawierający rdzenie i ich cache L3, który jest jednym z klocków składających się na cały procesor Zamiast jednego https://paweldubiel.com/notes/27f1a%E2%81%9D%20EPYC https://paweldubiel.com/notes/27f1a%E2%81%9D%20EPYC Fri, 27 Mar 2026 00:00:00 GMT EPYC EPYC to marka serwerowych procesorów AMD linia CPU na architekturze Zen zaprojektowana specjalnie do serwerów, centrów danych i zastosowań enterprise konkurencja dla Intel Xeon EPYC to „pełne wykorzystanie” architek https://paweldubiel.com/notes/27f2%E2%81%9D%20TDP https://paweldubiel.com/notes/27f2%E2%81%9D%20TDP Fri, 27 Mar 2026 00:00:00 GMT TDP TDP Thermal Design Power to wartość w watach mówiąca, ile ciepła procesor lub GPU może generować w typowym, „projektowym” obciążeniu i jaką ilość musi być w stanie odprowadzić system chłodzenia TDP a pobór mocy TDP j https://paweldubiel.com/notes/27f3%E2%81%9D%20L2%20Cache https://paweldubiel.com/notes/27f3%E2%81%9D%20L2%20Cache Fri, 27 Mar 2026 00:00:00 GMT L2 cache L2 cache pamięć podręczna poziomu 2 to szybka pamięć SRAM w procesorze, pośrednia warstwa między bardzo małym, ultraszybkim L1 a dużo wolniejszym RAM‑em. Gdzie jest L2 w hierarchii CPU ma zwykle kilka poziomów c https://paweldubiel.com/notes/27f4%E2%81%9D%20L3%20Cache https://paweldubiel.com/notes/27f4%E2%81%9D%20L3%20Cache Fri, 27 Mar 2026 00:00:00 GMT L3 Cache L3 cache pamięć podręczna poziomu 3 to największa, najwolniejsza z wewnętrznych cache CPU, zwykle współdzielona między wieloma rdzeniami i pełniąca rolę „ostatniego poziomu” przed wyjściem do RAM. Rola L3 w hier https://paweldubiel.com/notes/33%20News%20AI https://paweldubiel.com/notes/33%20News%20AI Sun, 22 Mar 2026 00:00:00 GMT 33b⁝ Kwiecień newsy AI 33a⁝ 16 22 marca 2026 newsy sztuczna inteligencja https://paweldubiel.com/notes/33a%E2%81%9D%2016%20-%2022%20marca%202026%20newsy%20sztuczna%20inteligencja https://paweldubiel.com/notes/33a%E2%81%9D%2016%20-%2022%20marca%202026%20newsy%20sztuczna%20inteligencja Sun, 22 Mar 2026 00:00:00 GMT Najważniejsze jest to, że ten tydzień 16 22 marca 2026 w AI był zdominowany przez ogłoszenia NVIDII na GTC 2026, duże ruchy kadrowo‑inwestycyjne w Big Tech oraz dalszą regulację AI w UE, a w Polsce dyskusję o słabości lo https://paweldubiel.com/notes/42z%E2%81%9D%20Corrigibility%20-%20Korygowalno%C5%9B%C4%87%20w%20AI https://paweldubiel.com/notes/42z%E2%81%9D%20Corrigibility%20-%20Korygowalno%C5%9B%C4%87%20w%20AI Sun, 22 Mar 2026 00:00:00 GMT Corrigibility Korygowalność w AI Ostatnio natknąłem się na ciekawy termin, który opisuje jeden z fundamentalnych problemów w badaniach nad bezpieczeństwem sztucznej inteligencji – mowa o korygowalności ang. corrigibility https://paweldubiel.com/notes/42y%E2%81%9D%20Okres%20przej%C5%9Bciowy%20-%20Nachodzi%20era%20ekspert%C3%B3w https://paweldubiel.com/notes/42y%E2%81%9D%20Okres%20przej%C5%9Bciowy%20-%20Nachodzi%20era%20ekspert%C3%B3w Sun, 22 Mar 2026 00:00:00 GMT Połączenie specjalisty z głęboką wiedzą w swojej wąskiej branży oraz nowoczesnego AI takiego jak Claude Code powoli zdeklasuje generyczne oprogramowanie. Inżynier z Houston, który zawstydził programistów Natknąłem się na https://paweldubiel.com/notes/42w%E2%81%9D%20Research%20Papers%20Problems https://paweldubiel.com/notes/42w%E2%81%9D%20Research%20Papers%20Problems Fri, 20 Mar 2026 00:00:00 GMT I have a slightly odd hobby. I like reading old papers in computer science and then comparing them with what scientists produce today. Take Shannon, for example. When you read such paper or similar, you often feel a kind https://paweldubiel.com/notes/42x%E2%81%9D%20Odpalenie%20molocha%20na%20laptopie%20-%20Qwen%20397B%20lokalnie%20na%20MacBooku%20Pro https://paweldubiel.com/notes/42x%E2%81%9D%20Odpalenie%20molocha%20na%20laptopie%20-%20Qwen%20397B%20lokalnie%20na%20MacBooku%20Pro Fri, 20 Mar 2026 00:00:00 GMT Wpadłem na niezwykle ciekawy projekt udostępniony przez Dana Woodsa , który udowadnia, że lokalna sztuczna inteligencja na domowym sprzęcie wchodzi na zupełnie nowy poziom. Dan wziął na warsztat pracę badawczą Apple sprz https://paweldubiel.com/notes/42v1%E2%81%9D%20KV-cache%20scaling%20problem%20in%20LLM%20inference https://paweldubiel.com/notes/42v1%E2%81%9D%20KV-cache%20scaling%20problem%20in%20LLM%20inference Sun, 15 Mar 2026 00:00:00 GMT KV cache scaling problem in LLM inference Core idea During autoregressive decoding, KV cache introduces a second fundamental scaling limit independent of model weights. While weight streaming creates a constant bandwidth https://paweldubiel.com/notes/42t%E2%81%9D%20Nie%20b%C4%99dzie%20buntu%20maszyn.%20Zamiast%20tego%20sami%20oddamy%20im%20stery https://paweldubiel.com/notes/42t%E2%81%9D%20Nie%20b%C4%99dzie%20buntu%20maszyn.%20Zamiast%20tego%20sami%20oddamy%20im%20stery Sat, 14 Mar 2026 00:00:00 GMT my repost from linkedin Pewnie na każdego, kto dłużej na co dzień pracuje z LLM, przychodzi w końcu ta jedna, niepokojąca refleksja: Kto tu właściwie jest narzędziem AI czy my? Dziś chętnie oddajemy decyzje maszynom, bo https://paweldubiel.com/notes/kv_cache_scaling_problem https://paweldubiel.com/notes/kv_cache_scaling_problem Sat, 14 Mar 2026 00:00:00 GMT KV cache scaling problem in LLM inference Core idea During autoregressive decoding, KV cache introduces a second fundamental scaling limit independent of model weights. While weight streaming creates a constant bandwidth