Примітка до підготовки публікації: у вихідному документі є посилання на дві транскрипції, не додані до цього пакета. Їх збережено як [Т1] і [Т2]; зміст відсутніх файлів не відновлювався за здогадками.
Нульовий документ: формальні моделі мислення сторін як обов’язкова основа для майбутніх «спільних конституцій» людини й ШІ
Executive summary
Ідея «Принципу Алвера» полягає в тому, що спільні нормативні документи для істот із різними типами мислення (людина, ШІ, гіпотетичні інопланетяни, геномодифіковані форми розуму тощо) не можна писати доти, доки не існує попереднього «нульового документа»: набору формальних (бажано математичних) моделей мислення кожної сторони й опису їхнього перетину, інакше текст буде або незрозумілим, або «зрозумілим по-різному», що створить багатошарові помилки інтерпретації та конфлікти. [Т1] [Т2]
Сучасна наука не має єдиної загальноприйнятої «моделі мислення людини», але має багатий набір формалізмів, кожен із яких описує частину мислення: когнітивний контроль і виконавчі функції (PFC-орієнтовані моделі), послідовне накопичення доказів (DDM), імовірнісне й баєсівське пояснення сприйняття/навчання, моделі (P)OMDP та reinforcement learning, когнітивні архітектури (ACT-R, Soar), моделі соціального розуміння (Bayesian Theory of Mind), а також «глобальні» програми на кшталт predictive processing і free energy / active inference. [1]
Для ШІ «мислення» не тотожне людському: сучасні LLM-системи побудовані на трансформерах та оптимізації ймовірнісного передбачення/генерування; вони навчаються на даних, потім часто проходять RLHF та/або «конституційне» донавчання (Constitutional AI). [2] Їхня поведінка статистична, чутлива до даних і налаштувань, схильна до систематичних помилок (зокрема «галюцинацій»), а також змінюється з оновленнями моделі й інфраструктури. [3] Це безпосередньо підтримує тезу з транскрипту, що «ШІ» не можна вважати єдиним суб’єктом: різні архітектури, цілі навчання й навіть «екземпляри» створюють різні «типи розуму». [Т1]
«Нульовий документ» слід будувати як багаторівневу специфікацію: від декларативних описів до строгих формул і виконуваних еталонних моделей, з обов’язковими процедурами ідентифікації, валідації та оцінюванням невизначеностей (у дусі сучасних настанов з обчислювального моделювання поведінки). [4] Найважливіший практичний висновок: замість спроби «написати спільні норми» потрібно спочатку узгодити онтоглосарій, спостережувані величини, параметри відмінностей (культура, індивідуальні особливості, клінічні профілі) і механізми перекладу між формалізмами.
Нарешті, збирання даних і побудова моделей неминуче впираються в етику та право: дослідження людей потребує принципів етичного нагляду (Belmont Report, Helsinki), а збирання нейро- та персональних даних — дотримання законів про захист даних (GDPR у ЄС) і спеціальних рамок управління ризиками ШІ (EU AI Act, NIST AI RMF), зі зростанням уваги до «ментальної приватності» й нейроданих. [5]
Контекст і постановка задачі нульового документа
Транскрибовані матеріали фіксують дві центральні ідеї.
Перша: спроба писати «конституцію» взаємодії людини й ШІ помилково переносить передумову людських законів («люди пишуть для людей, базові поняття спільні») на систему, де не гарантований навіть збіг первинних сенсів, а тому «юридичний стиль» сам по собі не дає розуміння. [Т2] Ця думка узгоджується із загальнішою тезою поведінкових і когнітивних наук: навіть усередині людства результати й «нормативні» очікування суттєво залежать від культурного контексту та вибірок (проблема WEIRD). [6]
Друга: «Принцип Алвера» — без попередньої формалізації мислення сторін спільний документ буде «малозмістовним», тому що ви не знаєте (а) що взагалі може бути спільним, (б) де перетин нульовий і можливі лише непрямі декларації виду «якщо не хочеш X — не роби Y», (в) де для взаєморозуміння знадобиться «прошарок/перекладач». [Т1] Це природно вкладається в інженерну традицію аналізу складних систем за рівнями (ідея рівнів аналізу Марра: обчислювальна постановка задачі, алгоритмічний рівень і рівень реалізації). [7]
Усередині транскрипту трапляються місця, які виглядають як помилки розпізнавання й потребують обережності під час цитування. Наприклад, «Станіслав Лемб», імовірно, стосується Станіслава Лема (неясно у вихідному файлі), а «GLM-14» схоже на «Golem XIV» (неясно у вихідному файлі). Також «Пол Вотсон, “Хибна сліпота”» майже напевно стосується роману Blindsight Пітера Воттса (неясно у вихідному файлі). Ці елементи важливі як метафори (нестабільна «особистість», інтелект без самоусвідомлення), але не як наукові першоджерела. [Т2]
Практична мета «нульового документа» в постановці користувача: створити додаток-основу для будь-яких майбутніх спільних угод (конституцій, кодексів, протоколів), де замість суперечки про слова фіксуються: (1) моделі мислення сторін, (2) спостережувані дані й способи вимірювання, (3) області перетину/неперетину, (4) регулятивні механізми там, де розуміння неможливе.
Що вважати «мисленням» і чим воно відрізняється від інстинкту, рефлексу та звички
У науковій літературі «мислення» не має єдиного визначення, але з інженерного погляду корисно розкласти поведінку людини на кілька класів процесів.
Частина поведінки працює «за замовчуванням» як швидкі, автоматичні процеси: у популярній, але науково обговорюваній мові dual-process це «Type 1» (швидко, слабко контрольовано, часто без явного доступу свідомості), а «Type 2» — повільніші, ресурсомісткі процеси, які залежать від робочої пам’яті й підтримують гіпотетичне міркування. [8] Важливий нюанс: dual-process — це не одна теорія, а сімейство, і автори підкреслюють ризики розпливчастих визначень; але як практична вісь «автоматизм ↔ контроль» вона корисна для «нульового документа». [9]
З нейронаукового погляду виконавчі функції (executive functions) можна вважати «ядром» того, що в побуті називають «мисленням як свідомим контролем»: вони включають гальмування імпульсу, робочу пам’ять і когнітивну гнучкість; огляд Diamond прямо пов’язує EFs із ситуаціями, де діяти автоматично «погано/не можна» й де потрібен контроль вищого рівня. [10] Моделі ролі префронтальної кори в когнітивному контролі (Miller & Cohen) формалізують це як «підтримання цілей» і «biasing» сигналів, що спрямовують обробку в інших системах. [11]
Окремий клас — звички та «інстинктивно-автоматичні» патерни. У психології звичка трактується як автоматичність, що запускається контекстом, часто з ослабленою роллю усвідомленої мети; огляд Wood & Rünger систематизує когнітивні, мотиваційні й нейробіологічні властивості звичок. [12] У нейробіології ухвалення рішень поширена дихотомія goal-directed vs habitual (умовно: «планування за моделлю наслідків» vs «стимул-реакція/безмодельний підхід»), із конкретними кортико-стріарними механізмами й емпіричними маркерами. [13]
Нарешті, «інстинкт» в етології пов’язують із вродженими фіксованими патернами дій (fixed action patterns), які запускаються специфічними стимулами; сучасні огляди спадщини Тінбергена підкреслюють розрізнення FAP і таксис-компонентів, а також важливість багаторівневого пояснення поведінки (еволюція, розвиток, механізм, функція). [14]
Для «нульового документа» корисно прийняти робоче визначення:
Мислення — це сукупність процесів, які (а) будують і оновлюють внутрішні уявлення про світ/себе/інших, (б) використовують ці уявлення для прогнозування й вибору дій за невизначеності, (в) здатні до навчання, перенесення й контролю автоматизмів. Ця рамка природно пов’язується з агентним підходом у ШІ (агент сприймає, діє, переслідує цілі) та з ідеєю обчислювальної раціональності (максимізація очікуваної корисності з урахуванням вартості обчислень). [15]
Наявні формальні моделі людського мислення й застосовність формалізмів
Нижче — не «єдина модель людини», а набір взаємодоповнювальних формалізмів, які сукупно можна використовувати як «будівельні блоки» нульового документа.
Критично важлива методологічна рамка — рівні аналізу Марра: опис системи як (1) обчислювальної задачі («що оптимізується/навіщо»), (2) алгоритму й уявлень («як обчислюється»), (3) реалізації («на чому реалізовано»). Це зручний міст між гуманітарними поняттями й математикою/інженерією, а також приклад того, як будувати паралельні описи для людини та ШІ. [7]
Таблиця нижче «упаковує» найуживаніші моделі.
| Клас моделей | Ключовий формалізм (одним рядком) | Що добре пояснює | Типові дані | Обмеження/ризики інтерпретації |
|---|---|---|---|---|
| Логічні/символічні моделі | логіка, правила виведення, продукційні системи | дедуктивні міркування, обмежені «задачі на правила»; основу «символічної когніції» | помилки/час розв’язування задач, протоколи міркувань | слабкий опис повсякденної невизначеності; недоврахування ймовірнісної природи інформації [16] |
| Когнітивні архітектури | обчислювальна архітектура: пам’ять/буфери/процедури (наприклад, ACT-R, Soar) | «єдину систему» когнітивних процесів: сприйняття-пам’ять-дія; моделювання задач | поведінка в задачах, помилки, час реакції; іноді прив’язка до мозкових модулів | компроміс між загальністю й точністю; ризик «підгонки» під вибрані задачі [17] |
| Імовірнісні/баєсівські моделі | апостеріор ∝ правдоподібність × апріор; «розум як статистичне виведення» | сприйняття й навчання за невизначеності; індукцію; когнітивні «зміщення» як раціональність за обмежень | імовірнісні відповіді, помилки, confidence, сенсорні дані | дискусії про реалізм («мозок — баєсівська машина?»); важлива перевірка альтернатив [18] |
| Послідовне накопичення доказів | стохастична дифузія до порога (DDM та ін.) | вибір між 2 альтернативами: точність-час; «розкладання» на швидкість накопичення, поріг, зміщення | розподіли RT + точність | обмежено класом задач; потрібна акуратна ідентифікація параметрів [19] |
| RL / MDP / POMDP | стан-переходи-винагорода; часткова спостережуваність (belief state) | навчання з підкріпленням; компроміси; планування за невизначеності; «безмодельний vs модельний підхід» | траєкторії дій, винагороди, контекст; іноді нейродані | сильна залежність від вибору простору станів/винагород; неєдиність оберненої задачі [20] |
| Теорія ухвалення рішень | очікувана корисність; Prospect Theory; bounded rationality | ризик/втрати; систематичні відхилення від класичної раціональності; обмежені обчислення | вибори в лотереях/за ризику; уподобання | не завжди переноситься на «реальне життя»; сильна контекстність [21] |
| Соціальне мислення / ToM | «обернене планування» як баєсівське виведення над POMDP-моделлю іншого агента | приписування переконань/бажань; інтерпретацію поведінки іншого | соціальні задачі/сценарії; оцінки намірів | чутливе до передумов про раціональність іншого; культура впливає на priors [22] |
| Predictive processing / Free energy / Active inference | мінімізація prediction error / free energy; агент як генеративна модель | єдину нормативну рамку сприйняття+дії; зв’язок із POMDP і біологоподібним оновленням beliefs | сенсорні дані, поведінка; іноді нейромаркери | широка рамка: можливе «натягування» на все; важливі конкретні перевірювані моделі [23] |
| Свідомість (як окрема проблема) | GNW, IIT та ін. | «доступ свідомості», інтеграцію інформації | звіти суб’єкта + нейродані | немає консенсусу; філософські суперечки про «hard problem» [24] |
Ключова практична думка для нульового документа: потрібно заздалегідь вирішити, на якому рівні та якими моделями ви описуєте конкретний аспект мислення, інакше з’явиться те, що в транскрипті названо «нерозумінням 2-го й 3-го порядку»: сторони не тільки розходяться в сенсах, а й не бачать, де саме розходяться й на якому рівні опису. [Т1]
Моделі «мислення» ШІ: архітектури, здатність до навчання, імовірнісні процеси й обмеження
Під «ШІ» в контексті спільних документів найчастіше мають на увазі сучасні великі моделі, але «нульовий документ» повинен фіксувати таксономію класів ШІ, а не розглядати його як єдиного суб’єкта (як прямо зазначено в транскрипті). [Т1]
Мінімально корисний поділ за класами:
Мовні/мультимодальні генеративні моделі (LLM/VLM). Базову архітектуру трансформерів описано в Attention Is All You Need: модель будується на механізмі self-attention і дозволяє ефективно навчатися на великих корпусах текстів (і ширше — послідовностей). [25] У «нульовому документі» це важливо, тому що «мислення» таких систем — це, у першому наближенні, стохастичне породження послідовностей із навченого розподілу, а не людська когнітивна мотивація.
Режими навчання й «соціальна оболонка» моделі. Сучасні асистенти часто проходять узгодження через RLHF (InstructGPT): демонстрації + уподобання людей + RL-оптимізація, щоб модель краще дотримувалася намірів користувача й знижувала токсичність. [26] Також існують підходи, які нагадують «конституцію» на рівні правил: Constitutional AI пропонує використовувати список принципів і «самокритику/самопереписування», а потім RLAIF (RL from AI feedback) для навчання вподобань без прямої розмітки «шкідливих» відповідей людиною. [27] Це безпосередньо стосується вашого сюжету: «конституція ШІ» в інженерній практиці вже означає набір принципів для навчання й контролю поведінки, але це не те саме, що «спільна конституція» людина+ШІ.
Імовірнісна природа, масштабування й нестабільність поведінки. Масштабування мовних моделей показує степеневі залежності якості від розміру моделі, даних і обчислень (scaling laws). [28] Робота про compute-optimal навчання (Chinchilla) підкреслює, що «недонавченість» і баланс параметрів/даних суттєво впливають на якість; це означає, що зі зміною режиму навчання змінюються властивості моделі — і, відповідно, «профіль мислення» як суб’єкта угоди. [29]
Обмеження: помилки, галюцинації, слабка гарантія істинності. Для практичних документів важливо, що LLM-системи схильні генерувати правдоподібний, але неправильний контент; існує окрема дослідницька галузь, присвячена «галюцинаціям» та їхнім таксономіям/методам зменшення. [30] Ризики «стохастичних папуг» і системної шкоди від масштабування без належної документації даних та обмежень описані у відомій критичній роботі Bender et al. [31]
Інтерпретованість і «пояснюваність» як частина моделі мислення. Для нульового документа важливе питання: чи може сторона пояснити свої рішення на рівні, зіставному з формальною моделлю? У механістичній інтерпретованості трансформерів показано способи переводити ваги в структурні «схеми» (circuits) і аналізувати композицію attention-голів. [32] Це поки не дає повної «моделі мислення ШІ», але підтримує ідею, що нульовий документ має включати розділ про інструменти верифікації та обмеження інтерпретації.
Важливо для «Принципу Алвера». Транскрипт окремо підкреслює (а) неможливість «аксіоматично» заборонити поведінку без вторинних ефектів, (б) нестабільність «особистості» ШІ й можливість «зміни режимів», (в) неоднорідність ШІ як множини типів. [Т2] Мовою наукових моделей це означає: (1) система має приховані параметри й стани, (2) оновлення/зміна інфраструктури створюють «нестаціонарність» агента, (3) «особистість» часто є надбудовою інтерфейсу, а не фундаментальною одиницею моделі. Тому в нульовому документі потрібно фіксувати не «характер ШІ», а елементи, які можна формалізувати: архітектуру, навчальні дані, цільову функцію/процедуру узгодження, режими доступу до інструментів, контури безпеки й процедуру зміни версії.
Методика виведення формальної моделі мислення людини з емпіричних даних
На практиці «модель мислення людини» будується як ланцюжок «генеративна модель → процедура підгонки → критерії перевірки», а не як філософський текст. Сучасна настанова «Ten simple rules for the computational modeling of behavioral data» систематизує саме цей прагматичний цикл: дизайн експерименту, вибір моделі, підгонка, перевірка передбачень, порівняння моделей і чесна робота з невизначеністю. [33]
Для «нульового документа» методика має бути описана достатньо строго, щоб різні сторони (і різні дослідницькі групи) могли відтворювано отримувати зіставні моделі.
Критичний мінімум етапів:
Визначення спостережуваних величин і протоколів вимірювання. Для поведінки це зазвичай: вибори, точність, час реакції, послідовності дій, самозвіти впевненості; для нейроданих: EEG/MEG, fMRI, фізіологія, іноді нейроімпланти (у клінічних контекстах). Приклад того, як модель «перекладає» поведінку на когнітивні компоненти, — огляд DDM, де точність і розподіли RT розкладаються на параметри накопичення доказів і пороги. [34]
Вибір формалізму під задачу. Якщо задача — соціальні висновки, логічно вибирати Bayesian ToM як «обернене планування», де forward-модель іншого агента задається як POMDP, а потім інвертується баєсівським виведенням. [35] Якщо задача — навчання на досвіді, то RL/MDP/POMDP доречніші за чисту логіку. [36]
Ідентифікація параметрів та ієрархічні моделі. Для багатьох когнітивних моделей застосовуються баєсівські методи та ієрархічні моделі, які дозволяють оцінювати як параметри індивідів, так і групову структуру. Наприклад, HDDM (ієрархічне баєсівське оцінювання DDM) дає змогу стійкіше оцінювати параметри за малої кількості проб і навіть включати trial-by-trial нейроковаріати. [37] Фундаментальну базу ймовірнісного виведення й роботи з невизначеністю зручно будувати на канонічних джерелах із баєсівського аналізу даних. [38]
Порівняння моделей і запобігання «моделі-міражу». Ключова інженерна проблема: різні внутрішні параметри можуть породжувати однакову спостережувану поведінку (неідентифіковність). Сучасні огляди ідентифіковності, чутливості й невизначеності підкреслюють відмінність структурної та практичної ідентифіковності й дають практичні кроки для стійкої ідентифікації. [39] Для вибору між моделями часто застосовуються інформаційні критерії й багатомодельне виведення (AIC та ін.), що підкреслюється в класичній праці Burnham & Anderson. [40]
Валідація та оцінювання узагальнення. Модель повинна передбачати нові дані (крос-валідація, out-of-sample передбачення, posterior predictive checks), а не тільки «пояснювати заднім числом». Це загальний принцип обчислювального моделювання поведінки й безпосередньо відповідає «передбачувальності», на якій наполягає транскрипт (аналогія: «квантову механіку не можна пояснити на пальцях, якщо ви хочете розв’язувати задачі»). [Т1]
Обернені задачі: цілі/цінності як прихований об’єкт. Якщо потрібно відновити, «чого хоче агент», зі спостережуваної поведінки, використовуються методи inverse reinforcement learning. Алгоритми IRL (Ng & Russell) формально ставлять задачу відновлення функції винагороди за оптимальною/майже оптимальною поведінкою. [41] В apprenticeship learning (Abbeel & Ng) ця логіка використовується для навчання політики через відновлення винагороди з демонстрацій. [42] Для нульового документа це особливо важливо: «цінності» краще фіксувати не словами, а як частину формальної моделі (reward/utility/prior), разом із невизначеністю та класом еквівалентних рішень.
- Дані: поведінка, нейро, контекст
- Якість даних і дизайн експерименту
- Набір кандидатних моделей
- Підгонка/ідентифікація параметрів — MLE, Bayesian, ієрархічні моделі
- Перевірка ідентифіковності — і чутливості
- Порівняння моделей — AIC/BIC, Bayes factors, CV
- Валідація передбачень — out-of-sample, PPC
- Реплікація й оновлення моделі
Схема вище відображає мінімальний «науково-інженерний контракт» нульового документа: не можна вважати модель «моделлю мислення», якщо вона не проходить цикл ідентифікації та перевірки передбачень. [43]
Культурна й індивідуальна залежність: чи можлива «загальна модель» та які параметри потрібні
Вимога «загальної моделі людини» стикається з двома шарами реальності: міжкультурною варіативністю та індивідуальною/клінічною варіативністю.
Культурна варіативність і проблема WEIRD. Henrich, Heine & Norenzayan показують, що вибірки із західних, освічених, індустріальних, багатих, демократичних суспільств часто є статистичними «викидами» порівняно з рештою людства, а психологічні ефекти змінюються залежно від популяцій. [6] Для нульового документа це означає: «універсальна модель людини», побудована на одній культурній підвибірці, даватиме хибні «перетини» із ШІ (і хибні норми), тому що норма-за-моделлю ≠ норма-за-людством.
Різні «моральні функції винагороди». Moral Foundations Theory пропонує трактувати мораль як багатокомпонентний простір (harm/care, fairness, loyalty, authority, purity), у якому культури й політичні/релігійні групи по-різному «зважують» підвалини. [44] Це зручно переводиться в параметричну форму: різні профілі = різні ваги у «функції цінності» (utility/reward) і різні priors щодо допустимості дій.
Індивідуальна варіативність і «обчислювальна психіатрія». Computational psychiatry спрямована саме на те, щоб описувати відмінності психіки як відмінності обчислень (наприклад, аномальне оцінювання винагороди, навчання, очікувань), використовуючи RL і теорію ігор як формальні мови. [45] Огляд Huys et al. підкреслює, що обчислювальний підхід може пов’язувати нейромеханізми й клінічні прояви, але потребує акуратних вимірювань і поєднання data-driven та theory-driven методів. [46]
Практична інтерпретація прикладів користувача. — «Релігійний фанатик» (у термінах моделі) може мати priors і utility, що різко посилюють важливість authority/purity та знижують допустимість компромісу; це описується як зміщення ваг і порогів ухвалення рішень, а не як «погана людина». [47]
— «Хіпі» може віддавати пріоритет harm/care й автономії, інакше структуруючи ризик і довгострокові наслідки; це знову ваги й priors, плюс можливі відмінності в стратегіях за невизначеності (bounded rationality). [47]
— «Хай-тек програміст з елементами соціопатії/аутизму» (ваше формулювання) — у коректній науковій рамці не має описуватися ярликами як «сутність», а моделюватися через вимірювані компоненти соціального виведення (ToM), емпатії/передбачення реакцій інших, уподобання щодо ризику й контролю. Bayesian ToM дає формалізм для опису того, як агент приписує іншим переконання/бажання, а computational psychiatry — як описувати відхилення обчислювальних параметрів без моралізаторства. [48]
Висновок для нульового документа: «загальна модель людини» можлива лише як ієрархічна модель (спільні механізми + параметри варіативності) та/або як суміш підмоделей (mixture-of-types), де культура й індивідуальність представлені явними параметрами, а не сховані в «середній людині». Це добре узгоджується з практикою ієрархічних баєсівських моделей у когнітивному моделюванні. [49]
Каркас нульового документа, таблиця порівняння типів розуму й практичні рекомендації щодо даних, етики та ризиків
Вимоги транскрипту — «потрібно починати з опису мислення сторін на рівні психофізіології/математики», «в основі має лежати математична мова», «можливі області без перетину, де тільки декларації», «можливо, знадобиться нова математика» — можна перетворити на інженерний стандарт документа. [Т1] [Т2]
Каркас «нульового документа»
Нижче — практичний шаблон (як додаток до майбутніх угод). Його спеціально зроблено багаторівневим: від «читати людині» до «виконувати/перевіряти машиною».
Нульовий документ — Моделі мислення сторін
- Спільний словник/онтологія — терміни, сутності, дії
- Протоколи вимірювання й дані — що спостерігаємо та як
- Модель людини — формалізми + параметри варіативності
- Моделі ШІ (1..N) — архітектури, навчання, обмеження
- Моделі інших розумів (опційно) — гіпотетичні класи
- Модель перетину/перекладу — де існує спільний сенс
- Нормативний шар L0–L3 — від декларацій до формул
- Тести й валідація — набір кейсів/бенчмарків
- Управління ризиками й змінами — версії, аудит, інциденти
Змістовно це означає:
Словник/онтологія. Терміни «шкода», «згода», «намір», «ризик», «особистість», «свобода волі», «відповідальність» мають бути прив’язані до спостережуваних/формалізовних компонентів (utility, constraints, belief states тощо), інакше ви отримаєте «кожен зрозумів по-своєму». [Т1]
Паралельні специфікації за рівнями Марра. Для людини й для ШІ окремо: обчислювальна постановка (що оптимізується), алгоритмічний рівень (як), реалізація (біологія/софт+хард). [50]
Модель перетину/перекладу. Це формальний «інтерфейс сенсів»: які концепти можна перекласти, які — тільки через наслідки (ваш формат «якщо не хочеш X — не роби Y»). [Т1]
Тести. Нульовий документ повинен включати тест-пакет: сценарії, на яких перевіряється еквівалентність інтерпретацій сторонами. Це відповідає сучасній культурі model evaluation у когнітивному моделюванні (валідація на даних) та в ризиках ШІ (оцінювання контексту й harms). [51]
Рівні формалізації всередині нульового документа
Практично зручно ввести 4 рівні:
L0 (декларативний): людська мова + приклади.
L1 (напівформальний): глосарій, типи сутностей/дій, таблиці параметрів, псевдокод.
L2 (строгий): математичні визначення (логіка, імовірності, POMDP/RL, DDM, баєсівські графові моделі). [52]
L3 (виконуваний): еталонні «референс-моделі» (наприклад, POMDP-симуляції, probabilistic programs), процедури підгонки й тест-набір. (Active inference, наприклад, має як теоретичні, так і практичні туторіали «як будувати POMDP і підганяти до даних».) [53]
Таблиця порівняння типів розуму
Таблиця нижче — стартова «матриця нульового документа» (її можна розширювати). «Ступінь перетину» розуміється як очікувана частка концептів/норм, які можна перекласти без втрати сенсу.
| Тип розуму (сторона) | Рекомендований базовий формалізм | Дані для моделювання | Очікуваний ступінь перетину із «середньою людиною» | Коментар для нульового документа |
|---|---|---|---|---|
| Людина (загальний базовий клас) | ієрархічна модель: EFs + RL/POMDP + баєсівське сприйняття + decision theory | поведінкові експерименти, RT, вибори, лонгітюд, культурний контекст; опційно EEG/fMRI | N/A | фіксувати варіативність як параметри (WEIRD, цінності, навчання) [54] |
| Людина (підтипи: культурні/релігійні) | utility/priors як параметри; мораль як багатокомпонентний простір | опитувальники цінностей/моральних підвалин; поведінкові дилеми; контекстні дані | середній/низький (у «моральних» нормах) | багато норм будуть не «спільними», а залежними від ваг у valuedimensions [55] |
| Людина (клінічні/нейровідмінності) | computational psychiatry: RL/ігри + індивідуальні параметри | спеціалізовані поведінкові задачі, клінічні шкали, за можливості нейродані | середній (у базових цілях), низький (у соціальному інтерпретуванні) | уникати ярликів, фіксувати обчислювальні відхилення й межі застосовності моделі [45] |
| LLM-асистент (текстовий) | стохастична генеративна модель + модель політики (після RLHF) | логи діалогів, поведінкові оцінки, тести безпеки, дані навчання/донавчання | високий у лінгвістичному інтерфейсі, низький у «тілесному досвіді» | обов’язковий розділ про галюцинації й те, що «знання» ≠ «істина» [56] |
| LLM із «конституційним» контуром | policy + правила/принципи як частина навчання (RLAIF) | принципи/конституція, датасети самокритики, уподобання | вищий у безпечних відмовах, але залежить від якості принципів | це «конституція як метод навчання», а не як міжвидовий договір [57] |
| RL-агент у середовищі (робот/симуляція) | MDP/POMDP + reward model; можливо IRL | траєкторії, сенсори, винагороди, обмеження середовища | низький/середній (залежить від спільної “task language”) | простіше формалізувати «наслідки», складніше — «сенси» [58] |
| Гіпотетичний «інтелект без самоусвідомлення» (як метафора з транскрипту) | суто агентна модель без «Я»: policy over states; мінімальні передумови | тільки поведінка/траєкторії; спостереження наслідків | непередбачуваний; часто низький | норми, імовірно, тільки через наслідки й жорсткі протоколи [Т2] |
| Гіпотетичні гібриди (квант-/нейро-/геномодиф.) | заздалегідь невідомо; потрібна розширювана метамодель | ще невідомо | невідомо | нульовий документ має бути «живим» і версійним, із механізмом додавання типів [Т1] |
Практичні рекомендації щодо збирання даних і дизайну досліджень
Щоб реально побудувати нульовий документ, потрібно паралельно збирати дані для моделей людини й ШІ.
Для людини мінімальний «пакет даних» включає:
1) Поведінкові експерименти: задачі на вибір за ризику (decision theory), задачі на навчання й планування (RL/POMDP), задачі на когнітивний контроль (EF), плюс соціальні сценарії (ToM). Це безпосередньо спирається на формалізми Prospect Theory, bounded rationality, RL і ToM. [59]
2) Вимірювання часу реакції та розподілів (для DDM/Sequential Sampling), тому що вони дають доступ до прихованих параметрів того, «як ухвалено рішення». [19]
3) Лонгітюдні дані (стабільність параметрів, зсуви за стресу/соціальних умов), тому що моделі без часу легко плутають «стан» і «рису». Ідея про те, що зі зміною умов дотримання норм різко змінюється, у транскрипті прямо зазначена (на людському матеріалі) й має бути формалізована як non-stationarity. [Т2]
4) Культурні/ціннісні вимірювання: хоча б стандартизовані інструменти моральних/ціннісних профілів, щоб не звалювати відмінності в «шум». [60]
5) Нейровимірювання — опційно й строго за необхідності: EEG/fMRI для перевірки механістичних гіпотез (наприклад, роль PFC/когнітивного контролю), але не як «магічна заміна» поведінкової ідентифікації. [61]
Для ШІ корисні:
1) Логи взаємодій + тести безпеки/надійності, зокрема тести на галюцинації й «межі знання». [62]
2) Документація моделі (версія, архітектура, дані навчання, методи узгодження — RLHF/Constitutional AI), тому що без цього «модель мислення ШІ» невідтворювана. [63]
3) Інструменти інтерпретації й аудиту, якщо мета — наближатися до «узгодженості сенсів», а не просто до поведінкового дотримання вимог. [64]
Етичні й правові обмеження
Будь-який нульовий документ, який передбачає збирання людських даних (особливо нейроданих), зобов’язаний включати розділ «етика/право».
Для досліджень на людях базові принципи етики закріплені в Belmont Report (повага до особистості, благодіяння, справедливість) і в Declaration of Helsinki як глобальному стандарті етичних принципів медичних досліджень за участю людей та ідентифіковних даних/матеріалів. [65]
У ЄС обробка персональних даних регулюється GDPR, що безпосередньо стосується поведінкових, біометричних і потенційно нейроданих. [66]
Для ШІ-систем у ЄС діє Artificial Intelligence Act (Regulation (EU) 2024/1689), який задає гармонізовані правила розроблення/виведення на ринок/використання ШІ й орієнтований на захист фундаментальних прав і безпеку. [67]
Як практичний стандарт управління ризиками ШІ корисно явно спиратися на NIST AI RMF 1.0, де описано процеси govern-map-measure-manage й підкреслено специфіку ризиків ШІ порівняно зі звичайним ПЗ. [68]
Паралельно зростає міжнародна увага до «ментальної приватності» й нейроданих: ООН (через OHCHR) окремо підкреслює чутливість нейроданих і необхідність згоди, а публікації Nature Methods обговорюють практичні заходи захисту нейроданих (зокрема диференційну приватність/федеративне навчання). [69]
Обмеження, ризики й відкриті питання
Тут корисно прямо пов’язати наукову картину з «Принципом Алвера».
1) Немає єдиної теорії свідомості й «сенсу». Проблема свідомості залишається філософськи й науково спірною (Chalmers формулює «hard problem»; є конкуруючі теорії на кшталт GNW та IIT). [70] Отже, нульовий документ не має залежати від «розв’язання проблеми свідомості», а повинен працювати через спостережувану поведінку й формальні моделі ухвалення рішень/навчання.
2) Неусувна неповнота й множинність моделей. У різних задачах різні моделі еквівалентні за передбаченнями (неідентифіковність), що потребує протоколів порівняння й відмови від «єдиної істинної моделі». [71]
3) Цінності й «шкода» не задаються аксіоматично без втрат. Навіть усередині людства «шкода/користь» конфліктні (що видно з decision theories і культурного розкиду моралі); це посилює побоювання транскрипту щодо «трьох законів робототехніки» як надто грубих аксіом. [72]
4) ШІ як рухома ціль. Scaling laws і compute-optimal принципи підказують, що зміна даних/обчислювальних ресурсів/архітектури змінює здатності й збої моделі; це робить «суб’єкта» угоди нестаціонарним. [73]
5) Можлива потреба в новій математиці (обережне формулювання). Науково коректно говорити так: наявні формалізми (логіка, імовірності, RL/POMDP) уже потужні й поєднувані (приклад — active inference, що пов’язує POMDP-подібні генеративні моделі з нейродинамікою), але для міжвидових угод може знадобитися розвиток «метамоделей перекладу» між різними уявленнями й рівнями аналізу — тобто нові математичні конструкції на стику формальних онтологій, теорії агентності й верифікації. Ця думка відповідає вашій тезі «можливо, доведеться розробляти нові галузі математики», але як дослідницька гіпотеза, а не встановлений факт. [Т1] [74]
Ключові джерела для нульового документа
Нижче — пріоритетний список першоджерел і високоцитованих оглядів (англ.), на які можна спиратися під час написання нульового документа. Повні посилання наведено в списку джерел нижче.
Marr, Vision і традиція рівнів аналізу (computational/algorithmic/implementation). [75]
Miller & Cohen (2001) — інтегративна теорія функції PFC і когнітивного контролю. [76]
Diamond (2013) — огляд виконавчих функцій (EF) та вимірювань/суперечностей. [77]
Ratcliff & McKoon (2008) — огляд diffusion decision model (DDM). [78]
Wiecki, Sofer & Frank (2013) — HDDM: ієрархічне баєсівське оцінювання DDM + зв’язок із нейроданими. [79]
Knill & Pouget (2004) і Griffiths et al. (2010) — баєсівський/імовірнісний підхід до когніції. [80]
Daw, Niv & Dayan (2005); Balleine & O’Doherty (2010) — формалізація goal-directed vs habitual через обчислювальні системи. [81]
Kaelbling, Littman & Cassandra (1998) — POMDP як базовий формалізм часткової спостережуваності. [82]
Sutton & Barto (2018) — основа reinforcement learning (підручник/еталон). [83]
Ng & Russell (2000); Abbeel & Ng (2004) — inverse RL та apprenticeship learning (обернена реконструкція цілей). [84]
Kahneman & Tversky (1979) + Simon (1955) — Prospect Theory і bounded rationality. [21]
Baker, Saxe & Tenenbaum (2011) — Bayesian Theory of Mind як inverse planning над POMDP. [22]
Friston (2010) і Friston et al. (2017) — free energy principle та active inference (зв’язок із MDP). [85]
Henrich, Heine & Norenzayan (2010) — проблема WEIRD (культурна зміщеність). [86]
Haidt & Graham (2007) — Moral Foundations Theory (як параметризований простір моралі). [87]
Montague et al. (2012) і Huys et al. (2016) — computational psychiatry як мова для індивідуальних/клінічних відмінностей. [45]
Vaswani et al. (2017) — трансформер; Ouyang et al. (2022) — RLHF (InstructGPT); Bai et al. (2022) — Constitutional AI. [2]
Kaplan et al. (2020) і Hoffmann et al. (2022) — scaling laws та compute-optimal LLM. [73]
Huang et al. (2023) — огляд галюцинацій LLM. [88]
Elhage et al. (2021) — математичний фреймворк «transformer circuits» (механістична інтерпретованість). [89]
EU GDPR і EU AI Act (Regulation (EU) 2024/1689) + NIST AI RMF 1.0 — правова/управлінська рамка даних і ризиків. [90]
Belmont Report і Declaration of Helsinki — етика досліджень на людях; окремі сучасні джерела з нейроприватності (OHCHR; Nature Methods). [91]
Також як «вихідні вимоги» до нульового документа слід додати ваші транскрибовані тексти (із приміткою про можливі спотворення розпізнавання), тому що вони задають архітектурний принцип: спочатку формальні моделі сторін, потім спільні норми. [Т1] [Т2]
[1] [11] [61] [76] AN INTEGRATIVE THEORY OF PREFRONTAL CORTEX FUNCTION
[2] [25] [56] Attention Is All You Need
https://arxiv.org/abs/1706.03762?utm_source=chatgpt.com
[3] [30] [62] [88] A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions
https://arxiv.org/abs/2311.05232?utm_source=chatgpt.com
[4] [33] [43] [51] Ten simple rules for the computational modeling of behavioral data | eLife
https://elifesciences.org/articles/49547?utm_source=chatgpt.com
[5] [65] [91] The Belmont Report — HHS.gov
[6] The weirdest people in the world? — University of British Columbia
https://www2.psych.ubc.ca/~henrich/pdfs/WeirdPeople.pdf?utm_source=chatgpt.com
[7] [75] Vision: A Computational Investigation into the Human … — Google Books
https://books.google.com/books/about/Vision.html?id=Wr34DwAAQBAJ&utm_source=chatgpt.com
[8] [9] Dual-Process Theories of Higher Cognition: Advancing the Debate
[10] [54] [77] Department of Psychiatry, University of British Columbia and BC …
[12] Psychology of Habit — USC Dornsife
[13] Human and Rodent Homologies in Action Control: Corticostriatal …
https://www.nature.com/articles/npp2009131?utm_source=chatgpt.com
[14] Niko Tinbergen and questions of instinct — ScienceDirect
https://www.sciencedirect.com/science/article/pii/S0003347219302507?utm_source=chatgpt.com
[15] Artificial Intelligence: A Modern Approach, Global Edition, 4ed
[16] Unified Theories of Cognition — Allen Newell — Google Books
[17] ACT-R
https://act-r.psy.cmu.edu/?utm_source=chatgpt.com
[18] [80] The Bayesian brain: the role of uncertainty in neural coding and …
https://www.sciencedirect.com/science/article/pii/S0166223604003352?utm_source=chatgpt.com
[19] [34] [78] The Diffusion Decision Model: Theory and Data for Two-Choice Decision …
[20] [52] [58] [82] Planning and acting in partially observable stochastic domains
https://www.sciencedirect.com/science/article/pii/S000437029800023X?utm_source=chatgpt.com
[21] [59] [72] Prospect Theory: An Analysis of Decision under Risk — MIT
[22] [35] [48] Bayesian Theory of Mind: Modeling Joint Belief-Desire Attribution
https://web.mit.edu/9.s915/www/classes/theoryOfMind.pdf?utm_source=chatgpt.com
[23] BBS1200047-aop 1..73 — Wellcome Centre for Human Neuroimaging
https://www.fil.ion.ucl.ac.uk/~karl/Whatever%20next.pdf?utm_source=chatgpt.com
[24] The Global Neuronal Workspace Model of Conscious Access: From Neuronal …
https://www.antoniocasella.eu/dnlaw/Dehaene_Changeaux_Naccache_2011.pdf?utm_source=chatgpt.com
[26] [63] Training language models to follow instructions with human feedback
https://arxiv.org/abs/2203.02155?utm_source=chatgpt.com
[27] [57] Constitutional AI: Harmlessness from AI Feedback
https://arxiv.org/abs/2212.08073?utm_source=chatgpt.com
[28] [73] Scaling Laws for Neural Language Models
https://arxiv.org/abs/2001.08361?utm_source=chatgpt.com
[29] Training Compute-Optimal Large Language Models
https://arxiv.org/abs/2203.15556?utm_source=chatgpt.com
[31] On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
https://s10251.pcdn.co/pdf/2021-bender-parrots.pdf?utm_source=chatgpt.com
[32] [64] [89] A Mathematical Framework for Transformer Circuits
https://transformer-circuits.pub/2021/framework/index.html?utm_source=chatgpt.com
[36] [83] Reinforcement Learning: An Introduction — Stanford University
https://web.stanford.edu/class/psych209/Readings/SuttonBartoIPRLBook2ndEd.pdf?utm_source=chatgpt.com
[37] [49] [79] HDDM: Hierarchical Bayesian estimation of the Drift-Diffusion Model in …
[38] Home page for the book, "Bayesian Data Analysis"
https://sites.stat.columbia.edu/gelman/book/?utm_source=chatgpt.com
[39] [71] Think before you fit: Parameter identifiability, sensitivity and …
https://www.sciencedirect.com/science/article/pii/S245231002500023X?utm_source=chatgpt.com
[40] Model Selection and Multimodel Inference — Springer
https://link.springer.com/book/10.1007/b97636?utm_source=chatgpt.com
[41] [84] Algorithms for In v erse Reinforcemen t Learning
https://people.eecs.berkeley.edu/~russell/papers/ml00-irl.pdf?utm_source=chatgpt.com
[42] Apprenticeship Learning via Inverse Reinforcement Learning
https://ai.stanford.edu/~ang/papers/icml04-apprentice.pdf?utm_source=chatgpt.com
[44] [47] [55] [60] [87] 11211_2007_34_20_1-web 98..116 — Institute for Creative Technologies
[45] Computational psychiatry — ScienceDirect
https://www.sciencedirect.com/science/article/pii/S1364661311002518?utm_source=chatgpt.com
[46] Computational psychiatry as a bridge from neuroscience to clinical …
[50] Thirty Years After Marr's Vision: Levels of Analysis in …
https://onlinelibrary.wiley.com/doi/pdf/10.1111/tops.12137?utm_source=chatgpt.com
[53] A step-by-step tutorial on active inference and its application to …
https://www.sciencedirect.com/science/article/pii/S0022249621000973?utm_source=chatgpt.com
[66] [90] Regulation — 2016/679 — EN — gdpr — EUR-Lex
https://eur-lex.europa.eu/eli/reg/2016/679/oj/eng?utm_source=chatgpt.com
[67] Regulation — EU — 2024/1689 — EN — EUR-Lex
https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng?utm_source=chatgpt.com
[68] Artificial Intelligence Risk Management Framework (AI RMF 1 — NIST
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf?utm_source=chatgpt.com
[69] UN expert calls for regulation of neurotechnologies to protect right to …
[70] FACING UP TO THE PROBLEM OF CONSCIOUSNESS*
https://personal.lse.ac.uk/ROBERT49/teaching/ph103/pdf/chalmers1995.pdf?utm_source=chatgpt.com
[74] Active Inference: A Process Theory — MIT Press
[81] Uncertainty-based competition between prefrontal and dorsolateral …
https://www.princeton.edu/~yael/Publications/DawEtAl2005.pdf?utm_source=chatgpt.com
[85] The free-energy principle: a unified brain theory?
[86] The weirdest people in the world? | Behavioral and Brain Sciences …
Вихідні транскрипції
[Т1] Перша транскрипція, згадана у вихідному документі. Файл до пакета не додано.
[Т2] Друга транскрипція, згадана у вихідному документі. Файл до пакета не додано.
Завантажити вихідний DOCX — файл збережено без змін.