Tahun 2022 menjadi tahun luar biasa untuk Machine Learning dan AI Research. Perusahaan teknologi besar telah merilis banyak library yang bermanfaat bagi pengembang. Penulis telah melihat beberapa makalah penelitian yang bagus, baik dari perusahaan teknologi besar maupun grup kecil. Terfavorit adalah penelitian AI perakitan sendiri, menunjukkan potensi untuk mengeksplorasi mode AI alternatif.
Tahun 2023 adalah tahun Model Bahasa Besar. ChatGPT telah menghebohkan internet, dengan orang-orang yang datang dengan segala macam kasus penggunaan dan ide tentang bagaimana hal itu dapat digunakan. ChatGPT saat ini dilindungi oleh API dan pembatasan akses.
OPT
GPT versi Meta, Open Pretrained Transformer, atau OPT. Model OPT memiliki banyak potensi untuk menjadi pengganti GPT, mengingat model ini tampaknya dirancang sebagai alternatif. Namun, Meta bukan satu-satunya Raksasa Teknologi yang memiliki kuda dalam balapan.
Palm
Dalam memahami mengapa model Palm begitu menakjubkan diperlukan untuk memahami ekosistem Pathways. Pathways adalah Arsitektur Google yang membuat semua Model Bahasa Besarnya.
Ekosistem Pathways Google diumumkan dengan banyak kemeriahan. Banyak ahli internet telah berbicara tentang ChatGPT dan potensinya untuk menggantikan Google sebagai mesin pencari.
Bola
Peneliti Machine Learning di Meta telah merilis Model Bahasa Besar (LLM) baru yang disebut Sphere. Dengan kinerjanya yang luar biasa pada tugas terkait pencarian, dan kemampuan untuk mengurai miliaran dokumen, digabungkan dengan pekerjaan Meta lainnya di NLP, Meta telah memposisikan dirinya dengan baik untuk mengganggu pasar pencarian.
Sphere dapat memverifikasi kutipan dan bahkan menyarankan kutipan alternatif yang akan cocok dengan konten dengan lebih baik, sesuatu yang belum pernah saya lihat di tempat lain.
Bloom
Bloom adalah Large Language Model (LLM) autoregresif yang dilatih untuk melanjutkan teks dari prompt pada sejumlah besar data teks menggunakan sumber daya komputasi skala industri. Bloom mampu menghasilkan teks yang koheren dalam 46 bahasa dan 13 bahasa pemrograman. Bloom juga dapat diinstruksikan untuk melakukan tugas teks yang belum dilatih secara eksplisit, dengan mentransmisikannya sebagai tugas pembuatan teks.
Galaxy
Terakhir adalah model lain dari Meta. Zuck tidak puas hanya dengan memilih satu pertarungan. Dia memiliki persamaan ChatGPT, diarahkan untuk penelitian orang.
Bayangkan sebuah ChatGPT, tetapi terlatih dalam banyak teks penelitian. Model seperti itu dapat menjelaskan rumus Matematika, membantu menulis makalah, dan membuat Lateks.
Selengkapnya: Medium
