เครือข่าย Capsule
- ผู้เสนอ
- Sabour, S., Frosst, N. & Hinton, G. E.
- ปี
- 2017
- ประเภท
- Deep learning architecture (vector capsules with dynamic routing)
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
Capsule Network (CapsNet) เป็นสถาปัตยกรรม deep learning ที่นำเสนอโดย Sara Sabour, Nicholas Frosst และ Geoffrey Hinton ในปี 2017 ซึ่งจัดกลุ่มนิวรอนเป็นเวกเตอร์ (capsules) แทนที่จะเป็นค่าสเกลาร์ (scalar activations) เพื่อให้ข้อมูลลำดับชั้นเชิงพื้นที่และข้อมูลท่าทาง (orientation) ถูกเข้ารหัสโดยตรง สถาปัตยกรรมนี้ถูกเสนอขึ้นเพื่อเอาชนะข้อจำกัดของ convolutional networks ที่เปราะบางต่อการเปลี่ยนแปลงมุมมอง
แนวคิดเบื้องหลังวิธีการ
เครือข่ายคอนโวลูชันมาตรฐานจะตรวจจับว่าฟีเจอร์ปรากฏอยู่หรือไม่ แต่จะทิ้งความสัมพันธ์เชิงพื้นที่ที่แม่นยำกับฟีเจอร์อื่นๆ ไปมาก ซึ่งทำให้เปราะบางเมื่อวัตถุถูกหมุนหรือมองจากมุมใหม่ แคปซูลจะเข้ามาแทนที่นิวรอนสเกลาร์เดี่ยวด้วยเวกเตอร์ขนาดเล็ก: ความยาวของเวกเตอร์จะบ่งบอกถึงความน่าจะเป็นที่เอนทิตีนั้นมีอยู่ และทิศทางของเวกเตอร์จะเข้ารหัสคุณสมบัติของเอนทิตีนั้น เช่น ท่าทางและทิศทาง เนื่องจากแคปซูลเก็บข้อมูลที่สมบูรณ์กว่านี้ เครือข่ายจึงสามารถให้เหตุผลเกี่ยวกับความสัมพันธ์ระหว่างส่วนประกอบกับภาพรวมได้ แทนที่จะเพียงแค่ตรวจสอบว่าส่วนประกอบปรากฏอยู่หรือไม่
ประวัติศาสตร์
Capsule Networks ถูกนำเสนอโดย Sara Sabour, Nicholas Frosst และ Geoffrey Hinton ในเปเปอร์ NeurIPS ปี 2017 ชื่อ Dynamic Routing Between Capsules โดยมีแรงจูงใจจากข้อจำกัดของ convolutional networks ในการจัดการกับการเปลี่ยนแปลงมุมมอง ในปี 2018 Hinton, Sabour และ Frosst ได้ขยายแนวคิดนี้ในงาน ICLR ด้วย Matrix Capsules with EM Routing โดยแทนที่รูปแบบการกำหนดเส้นทางเดิมด้วยกระบวนการ expectation-maximisation บนแคปซูลที่มีค่าเป็นเมทริกซ์
ควรใช้เมื่อใด
เหมาะสำหรับการจำแนกประเภทและการทำนายข้อมูลที่มีฟีเจอร์ต่อเนื่องที่มีโครงสร้าง เช่น ข้อมูลรูปภาพ หรือข้อมูลอื่นๆ ที่ความทนทานต่อการเปลี่ยนแปลงมุมมองและท่าทางมีความสำคัญ โดยต้องมีตัวอย่างข้อมูลจำนวนค่อนข้างมาก (อย่างน้อยประมาณ 500 ตัวอย่าง) แนะนำให้ใช้ GPU และอัลกอริทึม dynamic routing จะต้องได้รับการปรับแต่ง หากมีข้อมูลน้อยกว่าประมาณ 500 ตัวอย่าง การกำหนดเส้นทางจะไม่สามารถเรียนรู้ได้อย่างน่าเชื่อถือและโมเดลจะเกิด overfitting หากมีข้อมูลน้อยกว่าประมาณ 200 ตัวอย่าง ตัวจำแนกประเภทแบบดั้งเดิม เช่น random forest หรือ SVM จะเป็นตัวเลือกที่ดีกว่า
ข้อจำกัดและข้อควรพิจารณา
- ต้องการข้อมูลตัวอย่างจำนวนค่อนข้างมาก (ประมาณ 500 ตัวอย่างขึ้นไป) หากข้อมูลน้อย การกำหนดเส้นทางแบบไดนามิกจะเกิด overfitting และเรียนรู้ได้ไม่น่าเชื่อถือ
- การกำหนดเส้นทางแบบไดนามิกแบบวนซ้ำต้องใช้ทรัพยากรในการคำนวณสูง และแนะนำให้ใช้ GPU
- อัลกอริทึมการกำหนดเส้นทางจะแนะนำไฮเปอร์พารามิเตอร์ที่ต้องปรับแต่ง ซึ่งเพิ่มความซับซ้อนในการฝึก
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- เข้ารหัสข้อมูลท่าทางและลำดับชั้นเชิงพื้นที่ที่ convolutional pooling ละทิ้งไป ช่วยเพิ่มความทนทานต่อการเปลี่ยนแปลงมุมมอง
- สร้างแบบจำลองความสัมพันธ์ระหว่างส่วนประกอบกับภาพรวมอย่างชัดเจนผ่านการกำหนดเส้นทางตามฉันทามติ (routing-by-agreement)
- แคปซูลแบบเวกเตอร์รักษาคุณสมบัติของเอนทิตี (ทิศทาง ตำแหน่ง) แทนที่จะยุบรวมเป็นค่า activation เดียว
การประยุกต์ใช้
- การจำแนกประเภทรูปภาพที่ต้องทนทานต่อการเปลี่ยนแปลงมุมมอง การหมุน หรือท่าทาง
- งานการรู้จำที่การสร้างแบบจำลองความสัมพันธ์เชิงพื้นที่ระหว่างส่วนประกอบกับภาพรวมช่วยเพิ่มความสามารถในการสรุปผล (generalisation)
- การจำแนกประเภทและการทำนายข้อมูลอินพุตที่มีฟีเจอร์ต่อเนื่องที่มีโครงสร้าง โดยมีข้อมูลการฝึกเพียงพอ
วิธีการทำงาน
วิธีการทำงาน
แทนที่จะใช้นิวรอนสเกลาร์ เครือข่ายจะจัดกลุ่มหน่วยเป็นแคปซูล ซึ่งเป็นเวกเตอร์สั้นๆ ที่ความยาวแสดงถึงความน่าจะเป็นที่เอนทิตีเฉพาะมีอยู่ และทิศทางจะเข้ารหัสพารามิเตอร์การสร้างอินสแตนซ์ เช่น ท่าทาง แคปซูลระดับล่างจะตรวจจับส่วนประกอบต่างๆ ในขณะที่แคปซูลระดับสูงจะแสดงถึงภาพรวมที่ส่วนประกอบเหล่านั้นประกอบกันขึ้น
อัลกอริทึม dynamic routing-by-agreement เชื่อมต่อแคปซูลระดับล่างกับแคปซูลระดับสูง แคปซูลระดับล่างแต่ละตัวจะทำการคาดการณ์สำหรับเอาต์พุตของแคปซูลระดับสูงแต่ละตัวผ่านเมทริกซ์การแปลง จากนั้นสัมประสิทธิ์การเชื่อมโยง (coupling coefficients) จะถูกปรับปรุงซ้ำๆ เพื่อให้การคาดการณ์ที่สอดคล้องกันเสริมซึ่งกันและกัน การกำหนดเส้นทางนี้จะต้องได้รับการปรับแต่ง และจะเข้ามาแทนที่ขั้นตอน pooling ของ convolutional network ด้วยฉันทามติระหว่างส่วนประกอบกับภาพรวมที่ชัดเจน
สูตร
\hat{u}_{j|i} = W_{ij}\,u_i,\quad s_j = \sum_i c_{ij}\,\hat{u}_{j|i}ฟังก์ชัน non-linear squashing จะย่อเวกเตอร์สั้นๆ ให้เข้าใกล้ศูนย์ และเวกเตอร์ยาวๆ ให้เข้าใกล้ความยาวหนึ่ง เพื่อให้ขนาดของแคปซูลเอาต์พุตยังคงเป็นความน่าจะเป็นที่ถูกต้อง ในขณะที่ทิศทางจะรักษาคุณสมบัติของเอนทิตีนั้นไว้ แคปซูลในชั้นสุดท้ายจะให้การคาดการณ์คลาสที่ใช้สำหรับการจำแนกประเภท
สูตร
v_j = \frac{\lVert s_j\rVert^2}{1+\lVert s_j\rVert^2}\,\frac{s_j}{\lVert s_j\rVert}ข้อผิดพลาดที่พบบ่อย
- การฝึกด้วยข้อมูลตัวอย่างน้อยเกินไป (ต่ำกว่าประมาณ 500 ตัวอย่าง) ซึ่งการกำหนดเส้นทางไม่สามารถลู่เข้าสู่การจับคู่ที่น่าเชื่อถือได้
- การปล่อยให้การวนซ้ำของการกำหนดเส้นทางแบบไดนามิกและการจับคู่เป็นค่าเริ่มต้น แทนที่จะปรับแต่งให้เหมาะกับงาน
- การพยายามฝึกโดยไม่มีการเร่งความเร็วด้วย GPU และยอมรับการฝึกที่ช้าเกินไปหรือไม่สมบูรณ์
- การนำ CapsNet ไปใช้กับข้อมูลอินพุตที่ไม่มีโครงสร้าง ไม่ใช่รูปภาพ ซึ่งไม่ได้ออกแบบมา แทนที่จะใช้โมเดลแบบดั้งเดิม
คำถามที่พบบ่อย
แคปซูลแตกต่างจากนิวรอนปกติอย่างไร?
นิวรอนปกติจะให้เอาต์พุตเป็นค่า activation สเกลาร์เดี่ยว แคปซูลจะให้เอาต์พุตเป็นเวกเตอร์ ซึ่งความยาวแสดงถึงความน่าจะเป็นที่เอนทิตีนั้นมีอยู่ และทิศทางจะเข้ารหัสคุณสมบัติของเอนทิตีนั้น เช่น ท่าทางและทิศทาง ดังนั้นจึงเก็บข้อมูลเชิงพื้นที่ที่สมบูรณ์กว่ามาก
Dynamic routing คืออะไร?
Dynamic routing-by-agreement คืออัลกอริทึมที่เชื่อมต่อแคปซูลระดับล่างกับแคปซูลระดับสูง แคปซูลระดับล่างแต่ละตัวจะคาดการณ์เอาต์พุตของแคปซูลระดับสูง และสัมประสิทธิ์การจับคู่จะถูกปรับปรุงซ้ำๆ เพื่อให้การคาดการณ์ที่สอดคล้องกันเสริมซึ่งกันและกัน ซึ่งเข้ามาแทนที่ขั้นตอน pooling ของ convolutional network
ต้องใช้ข้อมูลและทรัพยากรในการคำนวณเท่าใด?
CapsNet ต้องการชุดข้อมูลจำนวนค่อนข้างมาก — อย่างน้อยประมาณ 500 ตัวอย่าง — และแนะนำให้ใช้ GPU เนื่องจาก iterative routing ต้องใช้ทรัพยากรในการคำนวณสูง หากมีข้อมูลน้อยกว่าประมาณ 200 ตัวอย่าง ตัวจำแนกประเภทแบบดั้งเดิม เช่น random forest หรือ SVM จะเหมาะสมกว่า
เหตุใดจึงควรใช้ capsule network แทน CNN?
CapsNet ถูกเสนอขึ้นโดยเฉพาะเพื่อแก้ไขปัญหาความเปราะบางของ CNN ต่อการเปลี่ยนแปลงมุมมอง โดยการรักษาท่าทางและความสัมพันธ์ระหว่างส่วนประกอบกับภาพรวม แทนที่จะยุบรวมผ่าน pooling มันสามารถสรุปผลได้ดีขึ้นเมื่อวัตถุปรากฏในทิศทางใหม่
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Sabour, S., Frosst, N. & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้วHinton, G. E., Sabour, S. & Frosst, N. (2018). Matrix Capsules with EM Routing. International Conference on Learning Representations (ICLR).
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้ว