Jacob Tsimerman, profesor Uniwersytetu w Toronto i laureat Medalu Fieldsa z lipca 2026 roku, ogłosił we wtorek 8 września powstanie Mathematical AI Safety Institute (MAISI), niezależnego instytutu badawczego z siedzibą w Bay Area. Instytut chce zatrudnić od 10 do 30 matematyków na semestr rozpoczynający się w styczniu 2027 roku i od 30 do 100 na rok akademicki od września 2027, a jego zadaniem ma być zbudowanie matematycznych podstaw bezpieczeństwa systemów sztucznej inteligencji.
- Jacob Tsimerman, laureat Medalu Fieldsa z lipca 2026 roku i profesor Uniwersytetu w Toronto, ogłosił 8 września 2026 roku powstanie Mathematical AI Safety Institute (MAISI) – niezależnego instytutu badawczego z siedzibą w Bay Area, który planuje zatrudnić od 10 do 30 matematyków na semestr rozpoczynający się w styczniu 2027 roku i od 30 do 100 na rok akademicki od września 2027.
- Punktem wyjścia dla MAISI jest teza, że branża AI nie dysponuje ścisłą definicją bezpieczeństwa, a instytut zakłada przy tym możliwość wyników negatywnych – w tym scenariusz, w którym obecny paradygmat rozwoju AI może w ogóle nie dać się uczynić bezpiecznym egzystencjalnie, lub że samo zweryfikowanie bezpieczeństwa może należeć do klasy złożoności obliczeniowej wykluczającej praktyczne sprawdzenie.
- MAISI nie jest jedyną nową tego typu inicjatywą – w sierpniu 2026 roku w Cambridge w stanie Massachusetts rozpoczął działalność Institute for Responsible Superintelligence (RESI), założony przez laureatkę Nagrody Turinga Shafi Goldwasser, kryptografa Vinoda Vaikuntanathana z MIT oraz Adama Taumana Kalaia, który odszedł z zespołu Safety Systems w OpenAI.
Tsimerman ogłosił powstanie instytutu również na swoim profilu: wpis Jacoba Tsimermana o założeniu MAISI.
I'm incredibly excited to announce the founding of the Mathematical AI safety Institute (MAISI) https://t.co/P96oBx506q. AI safety needs more foundational theoretical development, and mathematicians have the skills and the mindset to help! MAISI is an independent institute with…
— jacob tsimerman (@Jacob_Tsimerman) September 8, 2026
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Tsimerman zawiesza pracę w matematyce czystej i idzie do działu bezpieczeństwa OpenAI
Medal Fieldsa, przyznawany raz na cztery lata badaczom przed czterdziestką, Tsimerman odebrał w lipcu 2026 roku. Zaraz po odbiorze nagrody zapowiedział, że bierze urlop naukowy i w dużej mierze rezygnuje z badań w matematyce czystej, żeby zająć się problemami bezpieczeństwa AI. W tym miesiącu zaczyna pracę w dziale bezpieczeństwa OpenAI. MAISI, w którym Tsimerman obejmie funkcję dyrektora naukowego, jest wobec OpenAI podmiotem niezależnym i nie jest z firmą powiązany.
Sam Tsimerman tłumaczy tę zmianę tym, że matematycy przez lata traktowali sztuczną inteligencję jako domenę inżynierów oprogramowania, a nie własne pole badawcze. Jego zdaniem to błąd, bo systemy AI zbudowane są z algebry liniowej, analizy matematycznej, rachunku prawdopodobieństwa i statystyki.
„Inżynierowie mogą wdrażać tylko te pomysły, które ktoś wcześniej opracował, a my potrzebujemy nowych” / „Engineers can only implement ideas that have been developed, and we need new ideas” powiedział Tsimerman w rozmowie z „The New York Times”.
Instytut startuje od pytania, co w ogóle znaczy, że system AI jest bezpieczny
Punktem wyjścia dla MAISI jest teza, że branża nie dysponuje ścisłą definicją bezpieczeństwa AI. Na stronie instytutu napisano wprost, że subiektywne oceny ryzyka formułowane przez ekspertów i osoby publiczne są ważne jako wyraz indywidualnych obaw, ale ludzkość zasługuje na bardziej uporządkowaną miarę zagrożenia. Jak ujmuje to MAISI, „brakuje nam rygorystycznego rozumienia tego, co miałoby oznaczać bycie bezpiecznym” / „we lack a rigorous understanding of what it would mean to be safe”.
Instytut zapowiada, że będzie działał na wzór klasycznych ośrodków matematycznych, takich jak Institute for Advanced Study w Princeton czy Fields Institute w Toronto. Matematycy mają przyjeżdżać na jeden lub dwa semestry, z możliwością przedłużenia pobytu. Różnica wobec akademickiego standardu dotyczy tempa publikacji: MAISI deklaruje, że zamiast szlifować wyniki przez lata do postaci artykułu w czasopiśmie, będzie udostępniał robocze dokumenty w najwcześniejszej formie, która może się komuś przydać.
MAISI opublikował na razie trzy kierunki badawcze opisane pod kątem matematyków i zapowiada kolejne:
- rozwijanie dobrych heurystyk i estymatorów heurystycznych,
- interpretowalność modeli oraz rozmaitości cech,
- teoria gier dla agentów o jawnym kodzie źródłowym.
Za listę kierunków odpowiada Tsimerman, a jako współautorów wskazano Andrew Critcha, Lionela Levine’a, Yevgeny’ego Liokumovicha i Arula Shankara.
Instytut zakłada przy tym, że odpowiedzi mogą być negatywne. Na stronie wymieniono trzy takie scenariusze: obecny paradygmat rozwoju AI może w ogóle nie dać się uczynić bezpiecznym egzystencjalnie, ustawienie właściwej konfiguracji może się okazać dowodliwie chaotyczne i wrażliwe na zakłócenia, albo samo zweryfikowanie bezpieczeństwa może należeć do klasy złożoności obliczeniowej wykluczającej praktyczne sprawdzenie. MAISI pisze, że chce takie przeszkody znać, bo matematyka jest jedną z niewielu dyscyplin zdolnych udowodnić, że jej własny problem jest nierozwiązywalny przy danych założeniach.
Lubię ten pomysł za jedną rzecz: za uczciwość wobec możliwości porażki. Instytut, który przy starcie wypisuje trzy scenariusze, w których jego własny program badawczy kończy się wynikiem negatywnym, zachowuje się inaczej niż typowa nowa organizacja szukająca finansowania. To brzmi jak matematyka, a nie jak komunikat prasowy.
Mam natomiast dwa zastrzeżenia. Pierwsze dotyczy kalendarza. Pierwszy pełny semestr MAISI zaczyna się w styczniu 2027 roku, a wyniki badań podstawowych w matematyce rzadko pojawiają się w ciągu jednego semestru. Modele wchodzą tymczasem na rynek co kilka miesięcy. Ryzyko jest takie, że formalne definicje bezpieczeństwa powstaną dla systemów, które w międzyczasie przestaną być aktualne.
Drugie zastrzeżenie dotyczy pieniędzy. Strona MAISI nie podaje, kto finansuje instytut. Przy organizacji, której sensem istnienia ma być niezależna weryfikacja tego, co robią laboratoria AI, to informacja, której czytelnik ma prawo oczekiwać od pierwszego dnia. Pytanie o źródło finansowania padło zresztą publicznie już pod ogłoszeniem Tsimermana.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Opisz krótko, czego potrzebujesz. Jesteśmy największym HUB-em AI w Polsce — w naszej bazie znajdziesz blisko 500 zweryfikowanych firm specjalizujących się w AI. W Twoim imieniu poprosimy 3-5 dopasowanych wykonawców o kontakt w ciągu 48 godzin.
W radzie naukowej zasiadają Timothy Gowers, Ravi Vakil, Paul Christiano i Geoffrey Irving
Skład MAISI łączy matematyków najwyższej rangi z osobami, które od lat pracują nad alignmentem modeli. Dyrektorem wykonawczym został Andrew Critch, doktor matematyki z UC Berkeley z 2013 roku, który stosował geometrię algebraiczną do analizy modeli uczenia maszynowego i przez pięć lat pracował jako badacz w Center for Human-Compatible AI na tej samej uczelni.
W panelu doradczym znaleźli się:
- Timothy Gowers, laureat Medalu Fieldsa z 1998 roku, Chaire de Combinatoire w Collège de France,
- Ravi Vakil, profesor matematyki w Stanford i od 2025 roku prezes American Mathematical Society, współzałożyciel MathOverflow,
- Geoffrey Irving, współzałożyciel i główny naukowiec Resolution, wcześniej główny naukowiec brytyjskiego AI Security Institute, wcześniej kierujący zespołami alignmentu w DeepMind i OpenAI,
- Paul Christiano, dyrektor Alignment Research Center, wcześniej szef bezpieczeństwa w amerykańskim AI Safety Institute i pierwszy powiernik Long-Term Benefit Trust w Anthropic.
W zarządzie zasiadają Arul Shankar i Yevgeny Liokumovich z Uniwersytetu w Toronto oraz Matthew Chou, prezes Unipetro Group.
Vakil, który doradza instytutowi naukowo, w rozmowie z „The New York Times” określił problem bezpieczeństwa AI jako taki, do którego trzeba podejść z wielu stron jednocześnie i przy użyciu wszystkich dostępnych narzędzi.
MAISI to drugi taki instytut w ciągu miesiąca. W sierpniu ruszyło RESI Shafi Goldwasser
Instytut Tsimermana nie powstaje w próżni. W sierpniu 2026 roku w Cambridge w stanie Massachusetts rozpoczął działalność Institute for Responsible Superintelligence (RESI), organizacja non profit założona przez Shafi Goldwasser, laureatkę Nagrody Turinga i współautorkę dowodów o wiedzy zerowej, kryptografa Vinoda Vaikuntanathana z MIT oraz Adama Taumana Kalaia, badacza bezpieczeństwa i etyki AI, który odszedł z zespołu Safety Systems w OpenAI, żeby założyć instytut. RESI deklaruje, że chce zbudować naukowe podstawy pozwalające projektować superinteligencję bezpieczną z założenia, i zapowiada program wizyt obejmujący nie tylko informatyków, ale też matematyków, ekonomistów i prawników.
Tsimerman wskazuje dowody o wiedzy zerowej jako przykład narzędzia kryptograficznego, które może się przydać w bezpieczeństwie AI. Chodzi o sposób potwierdzania, że system zrobił to, co deklaruje, bez ujawniania szczegółów objętych tajemnicą, takich jak parametry modelu czy dane treningowe. Goldwasser, która współtworzyła tę metodę w latach osiemdziesiątych, opisała ją jako sposób dowodzenia faktów bez oddawania własnego sekretu.
Skalę zjawiska opisuje też Lionel Levine, matematyk z Cornell University, który uruchomił internetowe repozytorium otwartych problemów i programów badawczych, zapraszając matematyków do pracy nad ryzykami AI. W rozmowie z „The New York Times” mówił o rosnącym ekosystemie i o tym, że potrzeba dużo niezależnych mechanizmów kontroli.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Polski nadzór nad AI rusza jesienią, a definicji bezpieczeństwa wciąż brakuje
Problem, o którym mówi MAISI, ma bezpośrednie przełożenie na europejskie przepisy. AI Act nakłada na dostawców modeli ogólnego przeznaczenia stwarzających ryzyko systemowe obowiązek przeprowadzania oceny modelu, testów kontradyktoryjnych, zgłaszania poważnych incydentów do unijnego Urzędu ds. AI oraz zapewnienia odpowiedniego poziomu cyberochrony. Domniemanie ryzyka systemowego uruchamia próg mocy obliczeniowej użytej do trenowania modelu, przekraczający 10 do potęgi 25 operacji zmiennoprzecinkowych. Rozporządzenie nakazuje więc oceniać ryzyko, ale nie rozstrzyga, jaka metoda pomiaru miałaby być wystarczająca. Dokładnie tę lukę MAISI opisuje jako brak rygorystycznych definicji.
W Polsce nadzór nad tymi obowiązkami dopiero się organizuje. Ustawa o systemach sztucznej inteligencji z 3 lipca 2026 roku, podpisana przez prezydenta 24 lipca i opublikowana w Dzienniku Ustaw pod pozycją 1003, weszła w życie 11 sierpnia 2026 roku i powołała Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Jak pisaliśmy przy okazji ujawnionych przez Anthropic incydentów z autonomicznymi agentami, według Ministerstwa Cyfryzacji przewodniczący KRiBSI ma pojawić się w październiku, a pełny skład komisji w listopadzie.
Badania nad bezpieczeństwem modeli prowadzi w Polsce Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK, kierowany przez dr. hab. inż. Szymona Łukasika, prof. AGH. Ośrodek zajmuje się bezpieczeństwem, wyjaśnialnością i interpretowalnością modeli fundamentalnych oraz metodami ich audytu. To bliskie temu, co MAISI nazywa interpretowalnością, choć polski ośrodek pracuje przede wszystkim nad metodami stosowanymi, a nie nad formalnymi dowodami niemożliwości.
Dla polskiego czytelnika płynie z tego prosty wniosek. Kiedy KRiBSI zacznie w listopadzie realnie pracować, będzie musiała oceniać zgodność systemów AI z przepisami, korzystając z aparatu pojęciowego, którego matematyczne fundamenty dopiero powstają, i to na drugim kontynencie.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz materiału „The New York Times” Top Mathematician Announces New Institute for A.I. Safety z dnia 08.09.2026, a także oficjalnych stron Mathematical AI Safety Institute i Institute for Responsible Superintelligence.
Dane o polskim otoczeniu regulacyjnym pochodzą z rozporządzenia (UE) 2024/1689, ustawy z 3 lipca 2026 roku o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003) oraz informacji NASK o Ośrodku Badań nad Bezpieczeństwem Sztucznej Inteligencji.
Cytaty Jacoba Tsimermana oraz treść strony MAISI zostały zweryfikowane z oryginalnym anglojęzycznym materiałem źródłowym.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji o działalności MAISI, jego finansowaniu i pierwszym naborze matematyków.
