Andrej Karpathy: Manusia Sekarang Menjadi Hambatan dalam Riset AI!
Andrej Karpathy, seorang peneliti AI terkenal, baru-baru ini menyatakan bahwa manusia sekarang menjadi hambatan dalam riset AI. Menurutnya, kemampuan mesin yang semakin baik dalam melakukan pekerjaan yang dapat diukur dengan mudah membuat manusia menjadi bottleneck dalam proses riset.
Technical Detail
Karpathy menghabiskan beberapa bulan untuk men-tune GPT-2 training setupnya, kemudian dia membiarkan agen otonom mengambil alih untuk satu malam. Agen tersebut menemukan penyesuaian halus yang Karpathy lewatkan, yang juga berinteraksi dengan satu sama lain dengan cara yang mudah untuk manusia untuk melewatkan, tetapi sederhana untuk pencarian sistematis untuk menangkap.
Key Features
- Penelitian AI: Karpathy menyatakan bahwa peneliti AI harus menghilangkan diri mereka dari loop, setidaknya di area di mana metrik objektif ada.
- Agen Otonom: Agen otonom dapat menemukan penyesuaian halus yang manusia lewatkan.
- Kemampuan Mesin: Kemampuan mesin yang semakin baik dalam melakukan pekerjaan yang dapat diukur dengan mudah membuat manusia menjadi bottleneck dalam proses riset.
Geek Opinion
Karpathy tidak berpikir bahwa kemajuan dalam tugas yang dapat diukur dengan mudah akan berlanjut secara mulus ke domain yang kurang dapat diukur. "Apa pun yang terasa lembut adalah, seperti, lebih buruk," katanya.
