TrueNorth

Поделись знанием:
Перейти к: навигация, поиск

TrueNorth — исследовательский проект нейроморфического процессора второго поколения от компании IBM. Микрочип TrueNorth был разработан к лету 2014 года в рамках программы DARPA SyNAPSE. Процессор имеет неклассическую архитектуру (не основан на архитектуре фон Неймана) и вдохновлен некоторыми моделями работы неокортекса.[1]





Характеристики

Чип TrueNorth изготовлен по планарной полупроводниковой технологии по техпроцессу 28 нм на заводе Samsung. Он содержит 5.4 миллиарда транзисторов (что делает его одним из крупнейших на момент выпуска), с помощью которых реализованы:[1]

  • один миллион эмулируемых «нейронов»
  • 256 миллионов эмулируемых связей между нейронами — «синапсов».
  • около 400 мегабит SRAM памяти (приблизительно 50 мегабайт)

Для организации такого количества элементов использовалось 4096 блоков («ядер») в двухмерном массиве размером 64 на 64. Каждый блок («ядро») содержит планировщик, модуль управления токенами, около 100 килобит SRAM памяти для хранения состояния «синапсов» и «нейронов», модуль коммуникации с соседними ядрами (маршрутизатор, router), и логическую реализацию «нейронов»[1], которая позволяет каждому блоку моделировать 256 «нейронов» с частотой 1 кГц[2]. Чип построен по асинхронной технологии, созданной в Cornell University.[3]

Моделируются «нейроны» с двоичным состоянием (Spiking neurons; Integrate-and-fire). Синапсы имеют веса, выражающиеся как 9-ти битные целые, и 4-битную временную задержку.[2]

Энергопотребление чипа составляет 70-100 милливатт (при анализе видео 400x240 30 fps), производительность систем на базе чипа оценивается авторами в 46 млрд «синаптических операций в секунду на ватт»[1]

Применение

TrueNorth подходит для исполнения рекуррентных нейронных сетей, которые могут применяться для классификации различной информации, в том числе, изображений, речи и видео.[1]

Для программирования TrueNorth используется новый объектно-ориентированный язык Corelet.[4][5]

Напишите отзыв о статье "TrueNorth"

Примечания

  1. 1 2 3 4 5 [www.research.ibm.com/articles/brain-chip.shtml Introducing a Brain-inspired Computer TrueNorth's neurons to revolutionize system architecture] (англ.). IBM (August 2014). Проверено 9 августа 2014.
  2. 1 2 [plus.google.com/app/basic/stream/z131jvahwnz2ilme022rxx5icvbpi1dzp04 Comments on the IBM TrueNorth neural net chip.] // Yann LeCun, Google Plus  (англ.)
  3. [vlsi.cornell.edu/bio.php Asynchronous VLSI and Architecture] // Cornell University
  4. [www.research.ibm.com/software/IBMResearch/multimedia/IJCNN2013.corelet-language.pdf Cognitive Computing Programming Paradigm: A Corelet Language for Composing Networks of Neurosynaptic Cores] (англ.). IBM, DARPA. Проверено 9 августа 2014.
  5. [www.extremetech.com/extreme/163448-ibm-creates-corelet-programming-language-to-make-software-that-operates-like-the-human-brain IBM creates Corelet programming language to make software that operates like the human brain | ExtremeTech]

Литература

  • [www.research.ibm.com/articles/brain-chip.shtml Introducing a Brain-inspired Computer TrueNorth's neurons to revolutionize system architecture] (англ.). IBM (August 2014). Проверено 9 августа 2014.
  • [www.research.ibm.com/software/IBMResearch/multimedia/IJCNN2013.corelet-language.pdf Cognitive Computing Programming Paradigm: A Corelet Language for Composing Networks of Neurosynaptic Cores] (англ.). IBM, DARPA. Проверено 9 августа 2014.
  • [paulmerolla.com/merolla_main_som.pdf A million spiking-neuron integrated circuit with a scalable communication network and interface] // Science 8 August 2014: Vol. 345 no. 6197 pp. 668—673 DOI: 10.1126/science.1254642  (англ.)  (платн.), [www.sciencemag.org/content/345/6197/614.short The brain chip]
  • Real-Time Scalable Cortical Computing at 46 Giga-Synaptic OPS/Watt with ~100x Speedup in Time-to-Solution and ~100,000x Reduction in Energy-to-Solution // Proceedings of Supercomputing 2014, November 2014 ([vlsi.cornell.edu/~rajit/abstracts/sc14.html abstract])
  • [vlsi.cornell.edu/~rajit/ps/GG_app_ijcnn.pdf Building Block of a Programmable Neuromorphic Substrate: A Digital Neurosynaptic Core] // Neural Networks (IJCNN), The 2012 International Joint Conference on, DOI:10.1109/IJCNN.2012.6252637 (описание первого поколения нейроморфического процессора IBM)

Ссылки

  • [www.youtube.com/watch?v=5izS3lAZHmI A Cognitive Information Superhighway] // IBM Research, Aug 7, 2014 (видео)  (англ.)
  • [phys.org/news/2014-08-tiny-chip-mimics-brain-supercomputer.html Tiny chip mimics brain, delivers supercomputer speed] // Phys.org, AFP, Aug 07, 2014 by Rob Lever  (англ.)
  • [www.thg.ru/technews/20140808_180704.html IBM TrueNorth: чип, имитирующий устройство человеческого мозга] // Tom's Hardware, 08 августа 2014  (рус.)
  • [lenta.ru/articles/2014/08/07/neintcircuit/ Учится, но не мыслит. Создан нейронный чип для будущих суперкомпьютеров] // Lenta.ru  (рус.)


Отрывок, характеризующий TrueNorth

«Уверяю вас, что городу Смоленску не предстоит еще ни малейшей опасности, и невероятно, чтобы оный ею угрожаем был. Я с одной, а князь Багратион с другой стороны идем на соединение перед Смоленском, которое совершится 22 го числа, и обе армии совокупными силами станут оборонять соотечественников своих вверенной вам губернии, пока усилия их удалят от них врагов отечества или пока не истребится в храбрых их рядах до последнего воина. Вы видите из сего, что вы имеете совершенное право успокоить жителей Смоленска, ибо кто защищаем двумя столь храбрыми войсками, тот может быть уверен в победе их». (Предписание Барклая де Толли смоленскому гражданскому губернатору, барону Ашу, 1812 года.)
Народ беспокойно сновал по улицам.
Наложенные верхом возы с домашней посудой, стульями, шкафчиками то и дело выезжали из ворот домов и ехали по улицам. В соседнем доме Ферапонтова стояли повозки и, прощаясь, выли и приговаривали бабы. Дворняжка собака, лая, вертелась перед заложенными лошадьми.
Алпатыч более поспешным шагом, чем он ходил обыкновенно, вошел во двор и прямо пошел под сарай к своим лошадям и повозке. Кучер спал; он разбудил его, велел закладывать и вошел в сени. В хозяйской горнице слышался детский плач, надрывающиеся рыдания женщины и гневный, хриплый крик Ферапонтова. Кухарка, как испуганная курица, встрепыхалась в сенях, как только вошел Алпатыч.
– До смерти убил – хозяйку бил!.. Так бил, так волочил!..
– За что? – спросил Алпатыч.
– Ехать просилась. Дело женское! Увези ты, говорит, меня, не погуби ты меня с малыми детьми; народ, говорит, весь уехал, что, говорит, мы то? Как зачал бить. Так бил, так волочил!
Алпатыч как бы одобрительно кивнул головой на эти слова и, не желая более ничего знать, подошел к противоположной – хозяйской двери горницы, в которой оставались его покупки.
– Злодей ты, губитель, – прокричала в это время худая, бледная женщина с ребенком на руках и с сорванным с головы платком, вырываясь из дверей и сбегая по лестнице на двор. Ферапонтов вышел за ней и, увидав Алпатыча, оправил жилет, волосы, зевнул и вошел в горницу за Алпатычем.
– Аль уж ехать хочешь? – спросил он.
Не отвечая на вопрос и не оглядываясь на хозяина, перебирая свои покупки, Алпатыч спросил, сколько за постой следовало хозяину.
– Сочтем! Что ж, у губернатора был? – спросил Ферапонтов. – Какое решение вышло?
Алпатыч отвечал, что губернатор ничего решительно не сказал ему.
– По нашему делу разве увеземся? – сказал Ферапонтов. – Дай до Дорогобужа по семи рублей за подводу. И я говорю: креста на них нет! – сказал он.
– Селиванов, тот угодил в четверг, продал муку в армию по девяти рублей за куль. Что же, чай пить будете? – прибавил он. Пока закладывали лошадей, Алпатыч с Ферапонтовым напились чаю и разговорились о цене хлебов, об урожае и благоприятной погоде для уборки.
– Однако затихать стала, – сказал Ферапонтов, выпив три чашки чая и поднимаясь, – должно, наша взяла. Сказано, не пустят. Значит, сила… А намесь, сказывали, Матвей Иваныч Платов их в реку Марину загнал, тысяч осьмнадцать, что ли, в один день потопил.
Алпатыч собрал свои покупки, передал их вошедшему кучеру, расчелся с хозяином. В воротах прозвучал звук колес, копыт и бубенчиков выезжавшей кибиточки.
Было уже далеко за полдень; половина улицы была в тени, другая была ярко освещена солнцем. Алпатыч взглянул в окно и пошел к двери. Вдруг послышался странный звук дальнего свиста и удара, и вслед за тем раздался сливающийся гул пушечной пальбы, от которой задрожали стекла.
Алпатыч вышел на улицу; по улице пробежали два человека к мосту. С разных сторон слышались свисты, удары ядер и лопанье гранат, падавших в городе. Но звуки эти почти не слышны были и не обращали внимания жителей в сравнении с звуками пальбы, слышными за городом. Это было бомбардирование, которое в пятом часу приказал открыть Наполеон по городу, из ста тридцати орудий. Народ первое время не понимал значения этого бомбардирования.
Звуки падавших гранат и ядер возбуждали сначала только любопытство. Жена Ферапонтова, не перестававшая до этого выть под сараем, умолкла и с ребенком на руках вышла к воротам, молча приглядываясь к народу и прислушиваясь к звукам.