Engineers from MIT have designed a

Engineers from MIT have designed a new chip to implement neural networks. It is 10 times as efficient as a mobile GPU, so it could enable mobile devices to run powerful artificial-intelligence algorithms locally, rather than uploading data to the Internet for processing.

In recent years, some of the most exciting advances in artificial intelligence have come courtesy of convolutional neural networks, large virtual networks of simple information-processing units, which are loosely modeled on the anatomy of the human brain.

Neural networks are typically implemented using graphics processing units (GPUs), special-purpose graphics chips found in all computing devices with screens. A mobile GPU, of the type found in a cell phone, might have almost 200 cores, or processing units, making it well suited to simulating a network of distributed processors.

At the International Solid State Circuits Conference in San Francisco this week, MIT researchers presented a new chip designed specifically to implement neural networks. It is 10 times as efficient as a mobile GPU, so it could enable mobile devices to run powerful artificial-intelligence algorithms locally, rather than uploading data to the Internet for processing.

Neural nets were widely studied in the early days of artificial-intelligence research, but by the 1970s, they’d fallen out of favor. In the past decade, however, they’ve enjoyed a revival, under the name “deep learning.”

“Deep learning is useful for many applications, such as object recognition, speech, face detection,” says Vivienne Sze, the Emanuel E. Landsman Career Development Assistant Professor in MIT’s Department of Electrical Engineering and Computer Science whose group developed the new chip. “Right now, the networks are pretty complex and are mostly run on high-power GPUs. You can imagine that if you can bring that functionality to your cell phone or embedded devices, you could still operate even if you don’t have a Wi-Fi connection. You might also want to process locally for privacy reasons. Processing it on your phone also avoids any transmission latency, so that you can react much faster for certain applications.”

The new chip, which the researchers dubbed “Eyeriss,” could also help usher in the “Internet of things” — the idea that vehicles, appliances, civil-engineering structures, manufacturing equipment, and even livestock would have sensors that report information directly to networked servers, aiding with maintenance and task coordination. With powerful artificial-intelligence algorithms on board, networked devices could make important decisions locally, entrusting only their conclusions, rather than raw personal data, to the Internet. And, of course, onboard neural networks would be useful to battery-powered autonomous robots.

Division of labor

A neural network is typically organized into layers, and each layer contains a large number of processing nodes. Data come in and are divided up among the nodes in the bottom layer. Each node manipulates the data it receives and passes the results on to nodes in the next layer, which manipulate the data they receive and pass on the results, and so on. The output of the final layer yields the solution to some computational problem.

In a convolutional neural net, many nodes in each layer process the same data in different ways. The networks can thus swell to enormous proportions. Although they outperform more conventional algorithms on many visual-processing tasks, they require much greater computational resources.

The particular manipulations performed by each node in a neural net are the result of a training process, in which the network tries to find correlations between raw data and labels applied to it by human annotators. With a chip like the one developed by the MIT researchers, a trained network could simply be exported to a mobile device.

This application imposes design constraints on the researchers. On one hand, the way to lower the chip’s power consumption and increase its efficiency is to make each processing unit as simple as possible; on the other hand, the chip has to be flexible enough to implement different types of networks tailored to different tasks.

Sze and her colleagues — Yu-Hsin Chen, a graduate student in electrical engineering and computer science and first author on the conference paper; Joel Emer, a professor of the practice in MIT’s Department of Electrical Engineering and Computer Science, and a senior distinguished research scientist at the chip manufacturer NVidia, and, with Sze, one of the project’s two principal investigators; and Tushar Krishna, who was a postdoc with the Singapore-MIT Alliance for Research and Technology when the work was done and is now an assistant professor of computer and electrical engineering at Georgia Tech — settled on a chip with 168 cores, roughly as many as a mobile GPU has.

Act locally

The key to Eyeriss’s efficiency is to minimize the frequency with which cores need to

ผลลัพธ์ (ไทย) 1:

วิศวกรจาก MIT ได้ออกแบบชิใหม่การใช้เครือข่ายประสาท มันเป็น 10 ครั้งมีประสิทธิภาพเป็น GPU มือถือ ดังนั้นมันสามารถเปิดใช้งานอุปกรณ์มือถือเพื่อเรียกใช้ประสิทธิภาพเทียมปัญญาอัลกอริทึมภายใน แทนที่จะอัปโหลดข้อมูลไปยังอินเทอร์เน็ตสำหรับการประมวลผลในปีล่าสุด บางก้าวที่น่าตื่นเต้นที่สุดในปัญญาประดิษฐ์มาเอื้อเฟื้อเครือข่ายประสาท convolutional เครือข่ายเสมือนขนาดใหญ่ของหน่วยประมวลผลข้อมูลอย่างง่าย ที่จะจำลองหลวม ๆ ในกายวิภาคของสมองมนุษย์เครือข่ายประสาทโดยทั่วไปดำเนินการโดยใช้กราฟิกประมวลผลหน่วย (GPUs), ชิปกราฟิกวัตถุประสงค์พิเศษที่พบได้ในอุปกรณ์คอมพิวเตอร์ทั้งหมดมีหน้าจอ GPU มือถือ ชนิดที่พบในโทรศัพท์มือถือ อาจมีเกือบ 200 แกน หรือประมวลผลหน่วย ทำให้มันดีเหมาะกับการจำลองเครือข่ายของตัวประมวลผลแบบกระจายที่ประชุมระหว่างประเทศแข็งสถานะวงจรใน San Francisco สัปดาห์นี้ นักวิจัย MIT แสดงชิใหม่ที่ออกแบบมาโดยเฉพาะการใช้เครือข่ายประสาท มันเป็น 10 ครั้งมีประสิทธิภาพเป็น GPU มือถือ ดังนั้นมันสามารถเปิดใช้งานอุปกรณ์มือถือเพื่อเรียกใช้ประสิทธิภาพเทียมปัญญาอัลกอริทึมภายใน แทนที่จะอัปโหลดข้อมูลไปยังอินเทอร์เน็ตสำหรับการประมวลผลตาข่ายประสาทได้ศึกษากันอย่างแพร่หลายในวันแรกของการวิจัยปัญญาประดิษฐ์ แต่ โดยปี 1970 พวกเขาได้ลดลงจากความโปรดปราน ในทศวรรษที่ผ่านมา อย่างไรก็ตาม พวกเขามีความสุขการฟื้นฟู ภายใต้การชื่อ "ลึกการเรียนรู้"“Deep learning is useful for many applications, such as object recognition, speech, face detection,” says Vivienne Sze, the Emanuel E. Landsman Career Development Assistant Professor in MIT’s Department of Electrical Engineering and Computer Science whose group developed the new chip. “Right now, the networks are pretty complex and are mostly run on high-power GPUs. You can imagine that if you can bring that functionality to your cell phone or embedded devices, you could still operate even if you don’t have a Wi-Fi connection. You might also want to process locally for privacy reasons. Processing it on your phone also avoids any transmission latency, so that you can react much faster for certain applications.”The new chip, which the researchers dubbed “Eyeriss,” could also help usher in the “Internet of things” — the idea that vehicles, appliances, civil-engineering structures, manufacturing equipment, and even livestock would have sensors that report information directly to networked servers, aiding with maintenance and task coordination. With powerful artificial-intelligence algorithms on board, networked devices could make important decisions locally, entrusting only their conclusions, rather than raw personal data, to the Internet. And, of course, onboard neural networks would be useful to battery-powered autonomous robots.Division of laborA neural network is typically organized into layers, and each layer contains a large number of processing nodes. Data come in and are divided up among the nodes in the bottom layer. Each node manipulates the data it receives and passes the results on to nodes in the next layer, which manipulate the data they receive and pass on the results, and so on. The output of the final layer yields the solution to some computational problem.In a convolutional neural net, many nodes in each layer process the same data in different ways. The networks can thus swell to enormous proportions. Although they outperform more conventional algorithms on many visual-processing tasks, they require much greater computational resources.The particular manipulations performed by each node in a neural net are the result of a training process, in which the network tries to find correlations between raw data and labels applied to it by human annotators. With a chip like the one developed by the MIT researchers, a trained network could simply be exported to a mobile device.This application imposes design constraints on the researchers. On one hand, the way to lower the chip’s power consumption and increase its efficiency is to make each processing unit as simple as possible; on the other hand, the chip has to be flexible enough to implement different types of networks tailored to different tasks.Sze and her colleagues — Yu-Hsin Chen, a graduate student in electrical engineering and computer science and first author on the conference paper; Joel Emer, a professor of the practice in MIT’s Department of Electrical Engineering and Computer Science, and a senior distinguished research scientist at the chip manufacturer NVidia, and, with Sze, one of the project’s two principal investigators; and Tushar Krishna, who was a postdoc with the Singapore-MIT Alliance for Research and Technology when the work was done and is now an assistant professor of computer and electrical engineering at Georgia Tech — settled on a chip with 168 cores, roughly as many as a mobile GPU has.Act locallyThe key to Eyeriss’s efficiency is to minimize the frequency with which cores need to

ผลลัพธ์ (ไทย) 2:

วิศวกรจากเอ็มไอทีได้รับการออกแบบชิปใหม่ที่จะใช้เครือข่ายประสาท มันเป็นครั้งที่ 10 เป็นที่มีประสิทธิภาพเป็น GPU มือถือจึงสามารถเปิดใช้งานโทรศัพท์มือถือในการเรียกใช้อัลกอริทึมเทียมข่าวกรองที่มีประสิทธิภาพทั้งในประเทศมากกว่าการอัพโหลดข้อมูลไปยังอินเทอร์เน็ตสำหรับการประมวลผล. ในปีที่ผ่านมาบางส่วนของความก้าวหน้าที่น่าตื่นเต้นที่สุดในด้านปัญญาประดิษฐ์มี มามารยาทของเครือข่ายประสาทสับสนเครือข่ายเสมือนจริงขนาดใหญ่ของข้อมูลหน่วยประมวลผลที่เรียบง่ายซึ่งเป็นรูปแบบหลวมลักษณะทางกายวิภาคของสมองของมนุษย์. โครงข่ายประสาทเทียมจะดำเนินการโดยปกติจะใช้หน่วยประมวลผลกราฟิก (GPUs), ชิปกราฟิกวัตถุประสงค์พิเศษพบได้ในทุก อุปกรณ์คอมพิวเตอร์ที่มีหน้าจอ ตัว GPU นี้มือถือชนิดที่พบในโทรศัพท์มือถืออาจจะมีเกือบ 200 แกนหรือหน่วยประมวลผลการทำมันได้ดีเหมาะกับการจำลองเครือข่ายของตัวประมวลผลแบบกระจาย. ที่ประชุมรัฐวงจรแข็งนานาชาติในซานฟรานซิสในสัปดาห์นี้นักวิจัยเอ็มไอที นำเสนอชิปใหม่ที่ออกแบบมาโดยเฉพาะเพื่อใช้โครงข่ายประสาทเทียม มันเป็นครั้งที่ 10 เป็นที่มีประสิทธิภาพเป็น GPU มือถือจึงสามารถเปิดใช้งานโทรศัพท์มือถือในการเรียกใช้อัลกอริทึมเทียมข่าวกรองที่มีประสิทธิภาพทั้งในประเทศมากกว่าการอัพโหลดข้อมูลไปยังอินเทอร์เน็ตสำหรับการประมวลผล. ประสาทมีการศึกษากันอย่างแพร่หลายในวันแรกของการวิจัยเทียมปัญญา แต่โดยปี 1970 ที่พวกเขาต้องการหลุดออกไปจากของที่ระลึก ในทศวรรษที่ผ่านมา แต่พวกเขามีความสุขการฟื้นฟูภายใต้ชื่อ "การเรียนรู้ลึก." "การเรียนรู้ลึกจะเป็นประโยชน์สำหรับการใช้งานเป็นจำนวนมากเช่นการรับรู้วัตถุ, การพูด, การตรวจหาใบหน้า" วิเวียน Sze ที่เอ็มมานูอีกล่าวว่า การพัฒนาอาชีพบกผู้ช่วยศาสตราจารย์ในห้างเอ็มไอทีวิศวกรรมไฟฟ้าและวิทยาศาสตร์คอมพิวเตอร์ที่มีกลุ่มพัฒนาชิปใหม่ "ตอนนี้เครือข่ายที่มีความซับซ้อนสวยและมีการทำงานบนสูงกำลัง GPUs ส่วนใหญ่ คุณสามารถจินตนาการว่าถ้าคุณสามารถนำฟังก์ชันการทำงานที่ไปยังโทรศัพท์มือถือหรืออุปกรณ์ฝังตัวคุณยังคงสามารถทำงานแม้ว่าคุณจะไม่ได้มีการเชื่อมต่อ Wi-Fi นอกจากนี้คุณยังอาจต้องการที่จะดำเนินการในประเทศเพื่อความเป็นส่วนตัว การประมวลผลบนโทรศัพท์ของคุณยังหลีกเลี่ยงความล่าช้าในการส่งใด ๆ เพื่อให้คุณสามารถตอบสนองได้เร็วขึ้นมากสำหรับการใช้งานบางอย่าง ". ชิปใหม่ซึ่งนักวิจัยได้ขนานนามว่า" Eyeriss "ยังสามารถช่วยนำใน" Internet ของสิ่งที่ "- ความคิดที่ว่า ยานพาหนะเครื่องใช้ไฟฟ้าโครงสร้างโยธาวิศวกรรมการผลิตอุปกรณ์และแม้กระทั่งปศุสัตว์จะมีเซ็นเซอร์ที่รายงานข้อมูลโดยตรงไปยังเซิร์ฟเวอร์เครือข่ายการช่วยเหลือด้วยการบำรุงรักษาและการประสานงาน ด้วยขั้นตอนวิธีการที่มีประสิทธิภาพเทียมปัญญาบนเรืออุปกรณ์เครือข่ายจะทำให้การตัดสินใจที่สำคัญในท้องถิ่นมอบหมายให้เพียงข้อสรุปของพวกเขามากกว่าข้อมูลส่วนบุคคลดิบกับอินเทอร์เน็ต และแน่นอนออนบอร์ดและเครือข่ายประสาทจะเป็นประโยชน์กับแบตเตอรี่ขับเคลื่อนหุ่นยนต์อัตโนมัติ. แบ่งงานเครือข่ายประสาทมักจะจัดเป็นชั้นและแต่ละชั้นมีจำนวนมากของโหนดประมวลผล ข้อมูลที่เข้ามาและมีการแบ่งหมู่โหนดในชั้นล่าง แต่ละโหนดปรุงแต่งข้อมูลที่ได้รับและส่งผลไปยังโหนดในชั้นต่อไปซึ่งจัดการกับข้อมูลที่พวกเขาได้รับและส่งผ่านผลและอื่น ๆ การส่งออกของชั้นสุดท้ายผลตอบแทนถัวเฉลี่ยวิธีการแก้ปัญหาการคำนวณบาง. ในสุทธิประสาทสับสนโหนดจำนวนมากในกระบวนการชั้นแต่ละข้อมูลเดียวกันในรูปแบบที่แตกต่างกัน เครือข่ายจึงสามารถพองตัวเพื่อสัดส่วนมหาศาล แม้ว่าพวกเขาจะมีประสิทธิภาพสูงกว่าขั้นตอนวิธีการธรรมดาในงานภาพการประมวลผลจำนวนมากที่พวกเขาต้องการทรัพยากรคอมพิวเตอร์มากขึ้น. จัดกระทำโดยเฉพาะอย่างยิ่งการดำเนินการโดยแต่ละโหนดในสุทธิประสาทเป็นผลมาจากกระบวนการการฝึกอบรมซึ่งในเครือข่ายพยายามที่จะหาความสัมพันธ์ระหว่างข้อมูลดิบ และป้ายชื่อที่ใช้กับมันโดย annotators มนุษย์ ด้วยชิปอย่างหนึ่งที่พัฒนาโดยนักวิจัยเอ็มไอทีเป็นเครือข่ายการฝึกอบรมก็สามารถส่งออกไปยังอุปกรณ์มือถือ. โปรแกรมนี้จะมีการเรียกเก็บข้อ จำกัด ในการออกแบบวิจัย บนมือข้างหนึ่งวิธีที่จะลดการใช้พลังงานของชิปและเพิ่มประสิทธิภาพของมันคือการทำให้แต่ละหน่วยประมวลผลเป็นง่ายๆเป็นไปได้; บนมืออื่น ๆ , ชิปจะต้องมีความยืดหยุ่นพอที่จะดำเนินการที่แตกต่างกันของเครือข่ายที่เหมาะกับงานที่แตกต่าง. Sze และเพื่อนร่วมงานของเธอ - Yu-Hsin เฉินนักศึกษาระดับบัณฑิตศึกษาในสาขาวิศวกรรมไฟฟ้าและวิทยาศาสตร์คอมพิวเตอร์และผู้เขียนครั้งแรกบนกระดาษประชุม; โจเอลเอเม่อร์, อาจารย์ของการปฏิบัติในแผนกของเอ็มไอทีวิศวกรรมไฟฟ้าและวิทยาศาสตร์คอมพิวเตอร์และนักวิจัยอาวุโสที่โดดเด่นที่ผู้ผลิตชิปของ NVIDIA และกับ Sze ซึ่งเป็นหนึ่งในโครงการวิจัยหลักสอง; และ Tushar กฤษณะซึ่งเป็น postdoc กับสิงคโปร์ MIT พันธมิตรเพื่อการวิจัยและเทคโนโลยีเมื่องานที่ทำและตอนนี้เป็นผู้ช่วยศาสตราจารย์ของเครื่องคอมพิวเตอร์และวิศวกรรมไฟฟ้าที่จอร์เจียเทค - นั่งลงบนชิปที่มี 168 แกนประมาณมากที่สุดเท่าที่ GPU ที่มือถือมี. Act ในประเทศที่สำคัญให้มีประสิทธิภาพ Eyeriss คือการลดความถี่ที่แกนต้อง