Apa yang Terjadi?
Nah, lo tahu bahwa AI saat ini sangat bergantung pada text data untuk dilatih. Tapi, masalahnya adalah text data yang berkualitas tinggi sudah mulai habis. Penelitian terbaru dari Meta FAIR dan New York University menemukan bahwa unlabeled video dapat menjadi sumber data terbesar berikutnya untuk AI.
Detail Teknis
Terus, penelitian ini menggunakan metode yang disebut flow matching untuk melatih model AI pada video dan image-text pairs. Hasilnya, model AI dapat belajar dari video dan image-text pairs tanpa mengganggu kemampuan bahasa. Bahkan, model AI dapat menghasilkan gambar yang lebih baik ketika dilatih dengan text dan video secara bersamaan.
Apa yang Baru?
Gokilnya lagi, penelitian ini menemukan bahwa satu visual encoder dapat menangani baik image understanding dan image generation. Ini berbeda dengan pendekatan sebelumnya yang menggunakan dua visual encoder terpisah. Penelitian ini juga menemukan bahwa Mixture-of-Experts (MoE) dapat membantu mengatasi masalah scaling asymmetry antara vision dan language.
Kenapa Kita Harus Peduli?
Tapi masalahnya, kita harus peduli karena penelitian ini dapat membuka pintu bagi kemajuan AI yang lebih besar. Dengan menggunakan unlabeled video sebagai sumber data, kita dapat melatih model AI yang lebih kuat dan lebih akurat. Ini bisa berdampak besar pada berbagai bidang, seperti healthcare, finance, dan education. Jadi, kita harus terus mengikuti perkembangan penelitian ini dan melihat bagaimana kita dapat memanfaatkannya untuk kebaikan manusia.
