Shanghai Jiao Tong University обяви пробив в чиповете за изчислителна мощност в петък чрез представяне на LightGen, изцяло оптичен изчислителен чип, способен да управлява широкомащабни модели на генеративен изкуствен интелект, който предоставя представа за справяне с огромните изчислителни и енергийни изисквания в ерата на генеративния изкуствен интелект.
Изследователският екип твърди, че това е първият път, когато е разработен изцяло оптичен компютърен чип, който да поддържа широкомащабни семантични и визуални генеративни модели. Статия за изследването беше публикувана на уебсайта на списание Science в петък, където беше подчертана като представена статия.
Генеративният AI все повече се прилага към сложни сценарии от реалния свят, като например генериране на изображения от текст за секунди и създаване на видеоклипове за броени моменти. Тъй като тези модели стават все по-големи и по-сложни, търсенето на изчислителна мощност и енергийна ефективност става все по-належащо. В ерата след закона на Мур глобалните изследователски усилия се насочват към чипове за изчислителна мощност от следващо поколение като оптични изчисления.
Понастоящем оптичните чипове се отличават с ускоряване на разграничителните задачи, но не успяват да поддържат авангардни широкомащабни генеративни модели. Предизвикателството се състои в това да се даде възможност на оптични изчислителни чипове от следващо поколение да управляват сложни генеративни модели, признат проблем в областта на интелигентните изчисления в световен мащаб.
Учените обясниха, че оптичните изчисления включват обработка на информация с помощта на светлина вместо електрони в транзисторите. Светлината естествено предлага висока скорост и паралелност, което я прави обещаваща посока за преодоляване на изчислителните и енергийните затруднения. Въпреки това, прилагането на оптично изчисление към генеративен AI е сложно поради големия мащаб на тези модели и тяхната необходимост да се трансформират в множество измерения.
Чен Итонг, водещ изследовател в екипа, каза, че LightGen постига своя скок в производителността, като преодолява три критични пречки: интегриране на милиони оптични неврони в един чип, постигане на изцяло оптична трансформация на измеренията и разработване на алгоритъм за обучение за оптични генеративни модели, които не разчитат на истината на земята.
„Всеки един от тези пробиви сам по себе си би се считал за значителен. LightGen постига и трите едновременно, позволявайки цялостна, изцяло оптична реализация за широкомащабни генеративни задачи“, каза Чен, който също е асистент в Факултета по интегрални схеми към университета Jiao Tong в Шанхай.
LightGen не е просто използване на електроника за подпомагане на оптиката при генериране. Той постига пълен цикъл „вход-разбиране-семантична манипулация-генериране“ върху изцяло оптичен чип, според изследователския екип. След като изображението се подаде в чипа, системата може да извлича и представя семантична информация, генерирайки нови медийни данни под семантичен контрол, което ефективно позволява на светлината да „разбира“ и „опознава“ семантиката.
Експериментите в техните изследвания показаха, че LightGen може да извършва семантично генериране на изображения с висока разделителна способност, 3D генериране, генериране на видео с висока разделителна способност и семантичен контрол, поддържайки различни широкомащабни генеративни задачи като премахване на шума и трансфер на функции.
При оценките на производителността LightGen се придържа към строги изчислителни стандарти. Той постигна сравнимо качество на генериране с водещи електронни невронни мрежи, като Stable Diffusion и NeRF, като същевременно измерва времето от край до край и консумацията на енергия. Тестовете показаха, че дори използвайки сравнително остарели входни устройства, LightGen постигна подобрения на изчислителната и енергийната ефективност от два порядъка в сравнение с топ цифровите чипове. С усъвършенствани устройства LightGen теоретично може да постигне подобрения на изчислителната мощност от седем порядъка и подобрения на енергийната ефективност от осем порядъка.
Изследователският екип каза, че проучването подчертава, че тъй като генеративният AI става все по-интегриран в производството и ежедневието, разработването на чипове за изчислителна мощност от следващо поколение, способни да изпълняват авангардни задачи, изисквани от съвременното AI общество, става наложително.
„LightGen открива нов път за напредване на генеративния AI с по-висока скорост и ефективност, предоставяйки нова посока за изследване на високоскоростни, енергийно ефективни генеративни интелигентни изчисления“, каза Чен.
Нашия източник е Българо-Китайска Търговско-промишлена палaта