Канонічна кореляція — Вікіпедія

Частина з циклу
Машинне навчання та добування даних
Парадигми Кероване навчання Некероване навчання Інтерактивне навчання Пакетне навчання Метанавчання Напівкероване навчання Самокероване навчання Навчання з підкріпленням Навчання на основі правил Квантове машинне навчання[en]
Задачі Класифікація Породжувальна модель Регресія Кластерування Знижування розмірності Оцінювання густини Виявляння аномалій Очищування даних[en] АвтоМН Асоціативні правила Семантичний аналіз[en] Структурове передбачування Конструювання ознак Навчання ознак Навчання ранжуванню Виведення граматик[en] Навчання онтологій[en] Мультимодальне навчання[en]
Кероване навчання (класифікація • регресія) Ансамблі Випадковий ліс Бутстрепова агрегація Підсилювання Градієнтне підсилювання[en] AdaBoost[en] Дерева рішень MARS[en] CART Доречно-векторна машина k-сусідів Лінійна регресія Логістична регресія Лінійний розділювальний аналіз Наївний баєсів класифікатор Перцептрон Підмайстрове навчання Опорно-векторна машина Штучні нейронні мережі
Кластерування BIRCH[en] CURE Ієрархічне k-середніх Нечітке Очікування-максимізація DBSCAN OPTICS Спектральне Зсув середнього[en]
Знижування розмірності Факторний аналіз Метод незалежних компонент[en] Канонічна кореляція Дискримінантний аналіз Метод головних компонент Власний узагальнений розклад[en] Розклад невід'ємних матриць t-розподілене вкладення стохастичної близькості Навчання розріджених словників[en]
Структурове передбачування Графові моделі Баєсова мережа Прихована марковська модель Умовне випадкове поле
Виявляння аномалій RANSAC k-НС Коефіцієнт локального відхилення Відстань Кука Ізоляційний ліс[en]
Штучна нейронна мережа Автокодувальник Когнітивні обчислення[en] Глибоке навчання DeepDream[en] Нейронна мережа прямого поширення Рекурентна нейронна мережа ДКЧП ВРВ МВС Резервуарне обчислення Обмежена машина Больцмана ГЗМ Дифузійна модель Самоорганізаційна карта Згорткова нейронна мережа U-Net Трансформер Зоровий Спайкова нейронна мережа[en] Мемтранзистор Електрохімічна ПДД[en] (ECRAM)
Навчання з підкріпленням Q-навчання SARSA Метод часових різниць Багатоагентне навчання з підкріпленням Гра проти себе[en]
Навчання з людьми Активне навчання (машинне навчання)[en] Краудсорсинг Людина-в-циклі
Діагностування моделей Крива спроможності навчатися[en]
Математичні засади Ядрові машини Компроміс зсуву та дисперсії Ймовірнісно приблизно коректне навчання Мінімізація емпіричного ризику Оккамове навчання[en] Регуляризація LASSO[en] Тихонова Еластично-сіткова[en] Статистичне навчання Теорія Вапника — Червоненкіса Теорія обчислювального навчання[en]
Місця машинного навчання ECML PKDD[en] NeurIPS[en] ICML[en] ICLR IJCAI ML JMLR
Пов'язані статті Глосарій штучного інтелекту[en] Список наборів даних для досліджень з машинного навчання Перелік понять машинного навчання[en]
п о р

У статистиці, каноні́чно-кореляці́йний ана́ліз (ККА, англ. canonical-correlation analysis, CCA) це спосіб виведення інформації зі взаємно-коваріаційних матриць^[en]. Якщо ми маємо два вектори випадкових змінних, X = (X₁, ..., X_n) та Y = (Y₁, ..., Y_m), та між цими змінними існують кореляції, то канонічно-кореляційний аналіз знайде такі лінійні комбінації X_i та Y_j, які мають максимальну кореляцію між собою.^[1] Т. Р. Кнапп зазначає, що «практично всі загальноприйняті параметричні критерії^[en] значущості можна розглядати як окремі випадки канонічно-кореляційного аналізу, що є загальною процедурою для дослідження взаємозв'язків між двома наборами змінних.»^[2] Вперше цей метод було представлено Гарольдом Готелінґом 1936 року.^[3]

Визначення[ред. | ред. код]

Для двох заданих стовпчикових векторів випадкових змінних зі скінченними другими моментами ${\displaystyle X=(x_{1},\dots ,x_{n})'}$ та ${\displaystyle Y=(y_{1},\dots ,y_{m})'}$ можна визначити взаємну коваріацію ${\displaystyle \Sigma _{XY}=\operatorname {cov} (X,Y)}$ як матрицю ${\displaystyle n\times m}$, чий ${\displaystyle (i,j)}$-тий елемент є коваріацією ${\displaystyle \operatorname {cov} (x_{i},y_{j})}$. На практиці ми б оцінювали коваріаційну матрицю на основі вибіркових даних з ${\displaystyle X}$ та ${\displaystyle Y}$ (тобто, з пари матриць даних).

Канонічно-кореляційний аналіз шукає таких векторів ${\displaystyle a}$ та ${\displaystyle b}$, що випадкові змінні ${\displaystyle a'X}$ та ${\displaystyle b'Y}$ максимізують кореляцію ${\displaystyle \rho =\operatorname {corr} (a'X,b'Y)}$. Випадкові змінні ${\displaystyle U=a'X}$ та ${\displaystyle V=b'Y}$ є першою парою канонічних змінних (англ. first pair of canonical variables). Потім шукають векторів, які максимізують ту саму кореляцію, з обмеженням, що вони не корелюють з першою парою канонічних змінних; це дає другу пару канонічних змінних (англ. second pair of canonical variables). Цю процедуру може бути продовжено аж до ${\displaystyle \min\{m,n\}}$ разів.

Обчислення[ред. | ред. код]

Виведення[ред. | ред. код]

Нехай ${\displaystyle \Sigma _{XX}=\operatorname {cov} (X,X)}$, а ${\displaystyle \Sigma _{YY}=\operatorname {cov} (Y,Y)}$. Параметром для максимізації є

${\displaystyle \rho ={\frac {a'\Sigma _{XY}b}{{\sqrt {a'\Sigma _{XX}a}}{\sqrt {b'\Sigma _{YY}b}}}}.}$

Першим кроком є визначення заміни базису та визначення

${\displaystyle c=\Sigma _{XX}^{1/2}a,}$

${\displaystyle d=\Sigma _{YY}^{1/2}b.}$

І відтак ми маємо

${\displaystyle \rho ={\frac {c'\Sigma _{XX}^{-1/2}\Sigma _{XY}\Sigma _{YY}^{-1/2}d}{{\sqrt {c'c}}{\sqrt {d'd}}}}.}$

Згідно нерівності Коші — Буняковського, ми маємо

${\displaystyle \left(c'\Sigma _{XX}^{-1/2}\Sigma _{XY}\Sigma _{YY}^{-1/2}\right)d\leq \left(c'\Sigma _{XX}^{-1/2}\Sigma _{XY}\Sigma _{YY}^{-1/2}\Sigma _{YY}^{-1/2}\Sigma _{YX}\Sigma _{XX}^{-1/2}c\right)^{1/2}\left(d'd\right)^{1/2},}$

${\displaystyle \rho \leq {\frac {\left(c'\Sigma _{XX}^{-1/2}\Sigma _{XY}\Sigma _{YY}^{-1}\Sigma _{YX}\Sigma _{XX}^{-1/2}c\right)^{1/2}}{\left(c'c\right)^{1/2}}}.}$

Рівність є тоді, коли вектори ${\displaystyle d}$ та ${\displaystyle \Sigma _{YY}^{-1/2}\Sigma _{YX}\Sigma _{XX}^{-1/2}c}$ є колінеарними. Крім того, максимум кореляції досягається тоді, коли ${\displaystyle c}$ є власним вектором матриці ${\displaystyle \Sigma _{XX}^{-1/2}\Sigma _{XY}\Sigma _{YY}^{-1}\Sigma _{YX}\Sigma _{XX}^{-1/2}}$ з максимальним власним значенням (див. відношення Релея). Подальші пари знаходять, використовуючи власні значення зменшуваної величини. Ортогональність гарантовано симетричністю кореляційних матриць.

Розв'язок[ред. | ред. код]

Отже, розв'язанням є:

• ${\displaystyle c}$ є власним вектором ${\displaystyle \Sigma _{XX}^{-1/2}\Sigma _{XY}\Sigma _{YY}^{-1}\Sigma _{YX}\Sigma _{XX}^{-1/2}}$
• ${\displaystyle d}$ є пропорційним до ${\displaystyle \Sigma _{YY}^{-1/2}\Sigma _{YX}\Sigma _{XX}^{-1/2}c}$

Аналогічно,

• ${\displaystyle d}$ є власним вектором ${\displaystyle \Sigma _{YY}^{-1/2}\Sigma _{YX}\Sigma _{XX}^{-1}\Sigma _{XY}\Sigma _{YY}^{-1/2}}$
• ${\displaystyle c}$ є пропорційним до ${\displaystyle \Sigma _{XX}^{-1/2}\Sigma _{XY}\Sigma _{YY}^{-1/2}d}$

Обертаючи зміну координат, отримуємо, що

• ${\displaystyle a}$ є власним вектором ${\displaystyle \Sigma _{XX}^{-1}\Sigma _{XY}\Sigma _{YY}^{-1}\Sigma _{YX}}$
• ${\displaystyle b}$ є власним вектором ${\displaystyle \Sigma _{YY}^{-1}\Sigma _{YX}\Sigma _{XX}^{-1}\Sigma _{XY}}$
• ${\displaystyle a}$ є пропорційним до ${\displaystyle \Sigma _{XX}^{-1}\Sigma _{XY}b}$
• ${\displaystyle b}$ є пропорційним до ${\displaystyle \Sigma _{YY}^{-1}\Sigma _{YX}a}$

Канонічні змінні визначаються як

${\displaystyle U=c'\Sigma _{XX}^{-1/2}X=a'X}$

${\displaystyle V=d'\Sigma _{YY}^{-1/2}Y=b'Y}$

Реалізація[ред. | ред. код]

ККА може бути обчислювано із застосуванням сингулярного розкладу кореляційної матриці.^[4] Він доступний як функція в^[5]

• MATLAB як canoncorr [Архівовано 30 серпня 2014 у Wayback Machine.]
• R як cancor [Архівовано 17 вересня 2020 у Wayback Machine.], або в FactoMineR [Архівовано 9 листопада 2020 у Wayback Machine.], або в CCP [Архівовано 21 грудня 2016 у Wayback Machine.]
• SAS^[en] як proc cancorr [Архівовано 26 липня 2017 у Wayback Machine.]
• scikit-learn, Python як Cross decomposition [Архівовано 18 вересня 2020 у Wayback Machine.]
• SPSS як макрос CanCorr, що постачається з основним програмним забезпеченням

Перевірка гіпотез[ред. | ред. код]

Кожен рядок може бути перевірено на значущість за допомогою наступного методу. Оскільки кореляції впорядковуються, то якщо сказати, що рядок ${\displaystyle i}$ є нульовим, з цього випливатиме, що всі наступні кореляції також є нульовими. Якщо ми маємо в вибірці ${\displaystyle p}$ незалежних спостережень, а ${\displaystyle {\widehat {\rho }}_{i}}$ є оцінкою кореляції для ${\displaystyle i=1,\dots ,\min\{m,n\}}$, то для ${\displaystyle i}$-того рядка статистичним критерієм є

${\displaystyle \chi ^{2}=-\left(p-1-{\frac {1}{2}}(m+n+1)\right)\ln \prod _{j=i}^{\min\{m,n\}}(1-{\widehat {\rho }}_{j}^{2}),}$

що для великих ${\displaystyle p}$ асимптотично має розподіл хі-квадрат з ${\displaystyle (m-i+1)(n-i+1)}$ ступенями вільності.^[6] Оскільки всі кореляції від ${\displaystyle \min\{m,n\}}$ до ${\displaystyle p}$ є логічно нульовими (і оцінюваними таким чином), то добуток членів після цієї точки не має значення.

Практичні застосування[ред. | ред. код]

Типовим застосуванням для канонічної кореляції в експериментальному контексті є брати два набори змінних, і дивитися, що є спільного між цими двома наборами. Наприклад, у психологічному тестуванні можна взяти два добре усталені багатовимірні особистісні тести^[en], такі як мінесотський багатопрофільний особистісний опитувальник (MMPI-2) та NEO^[en]. Дивлячись, як співвідносяться коефіцієнти MMPI-2 та NEO, можна отримати розуміння, які виміри були спільними для цих двох наборів, і скільки було спільної мінливості. Наприклад, можна було би з'ясувати, що виміри екстравертності та невротизму відповідальні за значну величину спільної мінливості цих двох наборів.

Канонічно-кореляційний аналіз також можна використовувати для вироблення рівняння моделі, яка пов'язує два набори змінних, наприклад, набір вимірів продуктивності та набір пояснювальних змінних, або набір виходів та набір входів. На таку модель може бути накладено обмеження, щоби забезпечити відображення нею теоретичних вимог або інтуїтивно очевидних умов. Цей тип моделі відомий як модель з максимальною кореляцією (англ. maximum correlation model).^[7]

Унаочнюють результати канонічної кореляції зазвичай за допомогою стовпчикових діаграм коефіцієнтів двох наборів змінних для пар канонічних варіат^[en], що показують значущу кореляцію. Деякі автори вважають, що їх найкраще унаочнювати через геліографіки (англ. heliographs), круговий формат із променями як стовпчики, де кожна з половин представляє по набору змінних.^[8]

Приклади[ред. | ред. код]

Нехай ${\displaystyle X=x_{1}}$ з нульовим математичним сподіванням, тобто, ${\displaystyle \operatorname {E} (X)=0}$. Якщо ${\displaystyle Y=X}$, тобто ${\displaystyle X}$ та ${\displaystyle Y}$ є повністю корельованими, то, наприклад, ${\displaystyle a=1}$ та ${\displaystyle b=1}$, і відтак першою (і єдиною в цьому прикладі) парою канонічних змінних є ${\displaystyle U=X}$ та ${\displaystyle V=Y=X}$. Якщо ${\displaystyle Y=-X}$, тобто ${\displaystyle X}$ та ${\displaystyle Y}$ є повністю антикорельованими, то, наприклад, ${\displaystyle a=1}$ та ${\displaystyle b=-1}$, і відтак першою (і єдиною в цьому прикладі) парою канонічних змінних є ${\displaystyle U=X}$ та ${\displaystyle V=-Y=X}$. Зауважмо, що в обох випадках ${\displaystyle U=V}$, що показує, що канонічно-кореляційний аналіз трактує корельовані та антикорельовані змінні аналогічно.

Зв'язок із головними кутами[ред. | ред. код]

Виходячи з того, що ${\displaystyle X=(x_{1},\dots ,x_{n})'}$ та ${\displaystyle Y=(y_{1},\dots ,y_{m})'}$ мають нульові математичні сподівання, тобто ${\displaystyle \operatorname {E} (X)=\operatorname {E} (Y)=0}$, їхні коваріаційні матриці ${\displaystyle \Sigma _{XX}=\operatorname {Cov} (X,X)=\operatorname {E} [XX']}$ та ${\displaystyle \Sigma _{YY}=\operatorname {Cov} (Y,Y)=\operatorname {E} [YY']}$ можна розглядати як матриці Грама у внутрішньому добутку для елементів ${\displaystyle X}$ та ${\displaystyle Y}$ відповідно. В цій інтерпретації випадкові змінні, елементи ${\displaystyle x_{i}}$ з ${\displaystyle X}$ та ${\displaystyle y_{j}}$ з ${\displaystyle Y}$, розглядають як елементи векторного простору з внутрішнім добутком, заданим коваріацією ${\displaystyle \operatorname {cov} (x_{i},y_{j})}$, див. Зв'язок коваріації з внутрішніми добутками.

Тоді визначення канонічних змінних ${\displaystyle U}$ та ${\displaystyle V}$ є рівнозначним визначенню кореневих векторів^[en] для пари підпросторів, породжуваних елементами ${\displaystyle X}$ та ${\displaystyle Y}$ по відношенню до цього внутрішньому добутку. Канонічні кореляції ${\displaystyle \operatorname {corr} (U,V)}$ дорівнюють косинусові головних кутів^[en].

Див. також[ред. | ред. код]

• Узагальнена канонічна кореляція^[en]
• Навчання полілінійного підпростору^[en]
• R_V-коефіцієнт^[en]
• Головні кути^[en]
• Метод головних компонент
• Дискримінантний аналіз
• Регуляризований канонічно-кореляційний аналіз^[en]
• Сингулярний розклад матриці
• Регресія частинних найменших квадратів^[en]

Посилання[ред. | ред. код]

• Discriminant Correlation Analysis (DCA) [Архівовано 11 червня 2018 у Wayback Machine.]^[9] (MATLAB)
• Hardoon, D. R.; Szedmak, S.; Shawe-Taylor, J. (2004). Canonical Correlation Analysis: An Overview with Application to Learning Methods. Neural Computation. 16 (12): 2639—2664. doi:10.1162/0899766042321814. PMID 15516276. (англ.)
• A note on the ordinal canonical-correlation analysis of two sets of ranking scores [Архівовано 18 вересня 2020 у Wayback Machine.] (також пропонує програму мовою FORTRAN) — в J. of Quantitative Economics 7(2), 2009, pp. 173–199 (англ.)
• Representation-Constrained Canonical Correlation Analysis: A Hybridization of Canonical Correlation and Principal Component Analyses (також пропонує програму мовою FORTRAN) — в J. of Applied Economic Sciences 4(1), 2009, pp. 115–124

Примітки[ред. | ред. код]

п о р Статистика Нарис Індекс[en]   Описова статистика Неперервні дані Центр Середнє арифметичне геометричне гармонійне середні зважені Медіана Мода Розкид Дисперсія Стандартне відхилення Коефіцієнт варіації Перцентиль Розмах Міжквартильний розмах Форма Центральна гранична теорема Момент Асиметрія Ексцес L-момент Чисельні дані Індекс дисперсії Підсумкові таблиці Згруповані дані Частотний розподіл Таблиця спряженості Залежність Коефіцієнт кореляції Пірсона Кореляція рангу ρ Спірмена τ Кендала Часткова кореляція Точкова діаграма Графіки Стовпчикова діаграма Подвійний графік Коробковий графік Контрольна карта Корелограма Віялова діаграма Лісова діаграма Гістограма Секторна діаграма Графік Q-Q Графік біжучої послідовності Точкова діаграма Діаграма «стовбур — листя» Пелюсткова діаграма Скрипкова діаграма   Збирання даних Планування дослідження Генеральна сукупність Статистика Розмір ефекту[en] Статистична потужність Оптимальний план Вибірка Визначення розмірів вибірки Реплікація[en] Пропущені дані[en] Методологія дослідження Відбір вибірки стратифікований кластерний Стандартне відхилення середнього арифметичного Опитування Анкетування Активні експерименти Науковий контроль Рандомізований експеримент Контрольоване дослідження Випадкове призначування[en] Групування Взаємодія (статистика) Повний факторний експеримент Адаптивне планування Адаптивне клінічне випробування[en] Збільшувально-зменшувальні плани[en] Стохастичне наближення[en] Пасивні дослідження Поперечне дослідження Когортне дослідження Природний експеримент Квазі-експеримент   Статистичне висновування Теорія статистики Генеральна сукупність Статистика Розподіл імовірності Вибірковий розподіл порядкова статистика Емпіричний розподіл оцінка густини Статистична модель визначення моделі[en] простір Lp Параметр зсуву масштабу форми Параметричне сімейство[en] правдоподібність (монотонна)[en] зсувно-масштабне сімейство[en] експоненційне сімейство[en] Повнота[en] Достатність Статистичний функціонал[en] натяжка U[en] V[en] Оптимальне рішення функція втрат Ефективність[en] Статистична відстань[en] розходження[en] Асимптотика[en] Робастність Частотницьке висновування Точкова оцінка Оцінні рівняння[en] максимальна правдоподібність метод моментів M-оцінювач[en] мінімальна відстань[en] Незміщені оцінки усереднено-незміщена мінімально-дисперсійна[en] Рао — Блеквелізування теорема Леманна — Шеффе[en] Медіана Замінна[en] Інтервальне оцінювання[en] Довірчий інтервал Центральна величина[en] Інтервал правдоподібності Прогнозний інтервал[en] Толерантний інтервал[en] Перевибірка[en] натяжка складаний ніж Перевірка гіпотез 1- та 2-бічна[en] Потужність рівномірно найпотужніший критерій[en] Критерій перестановок критерій рандомізації[en] Множинні порівняння Параметричні критерії[en] Відношення правдоподібностей Множники Лагранжа[en] Вальд[en] Спеціальні критерії Z-критерій (нормальний) t-критерій Стьюдента F-критерій Допасованість Хі-квадрат G-критерій[en] Колмогорова-Смирнова Андерсона–Дарлінга Ліллієфорса[en] Харке–Бера[en] Нормальність (Шапіро–Вілка)[en] Перевірка відношенням правдоподібностей Обирання моделі Перехресне затверджування ІКА БІК Ранжувальні статистики Знаків[en] вибіркова медіана[en] Знаковий ранг (Уілкоксона)[en] оцінювач Ходжеса–Лемана[en] Рангова сума (Манна–Уітні) Непараметричний[en] дисперсійний аналіз 1-бічний (Краскела–Уоліса)[en] 2-бічний (Фрідмана) впорядкована альтернатива (Джонкгіра–Терпстра)[en] Баєсове висновування Баєсова ймовірність апріорна апостеріорна Імовірний інтервал Коефіцієнт Баєса Баєсова оцінка Оцінка апостеріорного максимуму   Кореляційний та регресійний аналіз Кореляція Коефіцієнт кореляції Пірсона Часткова кореляція Змішувальна змінна Коефіцієнт детермінації Регресійний аналіз Похибки та залишки Регресійне затверджування[en] Моделі змішаних впливів Система одночасних рівнянь[en] Сплайни багатовимірної адаптивної регресії (MARS)[en] Лінійна регресія Проста лінійна регресія Звичайний метод найменших квадратів[en] Загальна лінійна модель Баєсова лінійна регресія Нестандартні передбачувачі Нелінійна регресія[en] Непараметрична[en] Напівпараметрична[en] Ізотонічна[en] Робастна[en] Гетероскедастичність Гомоскедастичність Узагальнена лінійна модель[en] Експоненційні сімейства[en] Логістична (Бернуллі) / Біноміальна регресія[en] / Регресія Пуассона Розбиття дисперсії[en] Дисперсійний аналіз (ANOVA) Коваріаційний аналіз Багатовимірний дисперсійний аналіз (MANOVA)[en] Ступені вільності   Категорійний / багатовимірний аналіз / аналіз часових рядів / виживаності Категорійний Каппа Коена[en] Таблиця спряженості Графова модель Логарифмічна модель Критерій МакНімара[en] Багатовимірний Регресія Багатовимірний дисперсійний аналіз (MANOVA)[en] Головні компоненти Канонічна кореляція Дискримінантний аналіз Кластерний аналіз Класифікація Модель структурних рівнянь[en] факторний аналіз Багатовимірні розподіли еліптичні розподіли нормальний Часові ряди Загальне Розклад Тенденції Стаціонарність Сезонне пристосування[en] Експоненційне згладжування Коінтеграція[en] Структурний розрив[en] Причинність за Грейнджером[en] Спеціальні критерії Дікі–Фуллера Йохансена[en] Q-статистика (Льюнга-Бокса) Дарбіна–Уотсона Бройша–Годфрі[en] Часова область Автокореляція (ACF) Частинна автокореляція (PACF)[en] Взаємна кореляція (XCF) Авторегресійне ковзне середнє (ARMA) Метод Бокса–Дженкінса (ARIMA)[en] Авторегресивна умовна гетероскедастичність (ARCH) Векторна авторегресія (VAR) Частотна область Оцінка[en] спектральної густини Аналіз Фур'є Вейвлет Уіттлівська правдоподібність[en] Виживаність Функція виживаності[en] Оцінювач Каплана–Меєра (границі добутку)[en] Модель пропорційних ризиків[en] Модель прискореного часу до відмови[en] Момент першого влучання[en] Інтенсивність відмов Оцінювач Нельсона–Аалена[en] Критерій Логарифмічний ранговий критерій[en]   Застосування Біологічна статистика Біоінформатика Клінічні випробування / дослідження[en] Епідеміологія Медична статистика Інженерна статистика Хемометрія Інженерія методів[en] Імовірнісне проєктування[en] Керування процесами / якістю Теорія надійності Ідентифікація систем[en] Соціальна статистика[en] Актуарна математика Перепис населення Правова статистика Демографічна статистика Економетрія Юриметрія[en] Національне рахівництво Офіційна статистика[en] Психометрія Просторова статистика Картографія Екологічна статистика[en] Геоінформаційні системи Геостатистика Кригінг Категорія   Портал «Математика» Вікісховище