Модель, структура та метод синтезу нейронного елемента матричного типу

Abstract

Зростаюче застосування нейромереж для опрацювання даних потребує пошуку нових і вдосконалення наявних засобів для їх розроблення. Застосування таких засобів на мобільних платформах вимагає врахування додаткових обмежень щодо габаритів, маси та енергоспоживання. З'ясовано, що перспективним способом вирішення цієї проблеми є застосування надвеликих інтегральних схем (НВІС), що, однак, потребує розроблення нових моделей, структур і методів синтезу нейронних елементів (НЕ) як основи для побудови нейронних та нейроподібних мереж. У роботі запропоновано й описано узагальнену модель, структуру та метод синтезу НЕ матричного типу. Описано алгоритми обчислення скалярного добутку, групового підсумовування часткових добутків, які використано для реалізації базової структури НЕ. Виконано оцінювання параметрів НЕ матричного типу з формуванням часткових добутків за модифікованим алгоритмом Бута. Описано розроблену узагальнену модель НЕ матричного типу з формуванням часткових добутків за модифікованим алгоритмом Бута, компонентами якої є перетворювач форматів даних, пристрій обчислення скалярного добутку та блок реалізації функції активації. Розроблена модель НЕ за рахунок узгодження тривалості надходження вхідних даних і вагових коефіцієнтів з тактом роботи конвеєра забезпечує опрацювання даних у реальному часі. Для зменшення у два рази кількості обчислень часткових добутків запропоновано використати матричний метод обчислення скалярного добутку з формуванням часткових добутків за допомогою модифікованого алгоритму Бута. Описано розроблені алгоритми та структури для групового підсумовування часткових добутків, які за рахунок розпаралелення процесу підсумовування часткових добутків на підставі дерев Уоллеса та каскадного паралельно-паралельного алгоритму забезпечують зменшення часу підсумовування. Описано розроблену базову структуру НЕ матричного типу з формуванням часткових добутків з використанням модифікованого алгоритму Бута, яка за рахунок паралельно-паралельного формування та підсумовування часткових добутків на підставі дерев Уоллеса і каскадного алгоритму з використанням конвеєрних регістрів для узгодження інтенсивності надходження даних з інтенсивністю обчислення, забезпечує оброблення потоків даних у реальному часі та реалізацію на НВІС. Оцінено витрати обладнання для реалізації НЕ матричного типу та тривалості конвеєрного такту для визначених конфігурацій обчислювальних засобів, а саме, розрядності операндів та кількості пар добутків.