Sitemap

GitHub Copilot Rilis Computer Use: Otomatisasi Uji Web GUI

5 min readOct 6, 2026

--

Press enter or click to view image in full size
Google AI Flow

Panduan memanfaatkan interaksi desktop pada Copilot CLI untuk menguji alur aplikasi web secara otomatis dan aman.

Artikel ini disusun dengan bantuan AI untuk riset awal dan draf, lalu dicek fakta, diuji, dan disunting oleh penulis.

Sebagai mahasiswa IT atau web developer yang sedang menyelesaikan proyek akhir, tahap pengujian antarmuka pengguna (UI/UX) sering kali menjadi bagian yang paling melelahkan. Setiap kali kita mengubah logika controller di Laravel atau memodifikasi komponen form di React, kita terpaksa membuka browser secara manual, mengetikkan data pengujian berulang kali, dan mengeklik tombol satu per satu untuk memastikan tidak ada pesan error yang muncul. Menulis skrip pengujian end-to-end (E2E) otomatis menggunakan alat seperti Playwright atau Cypress sebenarnya adalah solusi ideal, tetapi menyusun selector elemen dan menangani jeda animasi (wait timing) sering kali memakan waktu yang tidak sedikit. Akibatnya, banyak mahasiswa memilih melewatkan pengujian menyeluruh hingga akhirnya menemukan bug fatal tepat saat aplikasi didemonstrasikan di hadapan dosen penguji.

Melalui artikel ini, saya akan mengulas terobosan baru yang baru saja digulirkan oleh GitHub untuk mempermudah alur kerja pengujian antarmuka aplikasi web kamu. Berdasarkan rilis resmi GitHub Changelog pada 1 dan 2 Oktober 2026 (sumber: GitHub Blog Changelog), GitHub resmi meluncurkan fitur Computer Use dalam status Public Preview untuk GitHub Copilot CLI dan aplikasi desktop Copilot di macOS dan Windows. Fitur ini memungkinkan agen AI berinteraksi langsung dengan antarmuka grafis desktop — mulai dari mengambil tangkapan layar, menggerakkan kursor mouse, hingga mengetikkan teks input form secara otonom (sumber: GitHub Blog Changelog). Kita akan membedah cara kerjanya, melihat contoh instruksi CLI nyata untuk menguji form web lokal, serta meninjau batasan keamanannya.

Saya masih ingat betul ketika mengerjakan alur registrasi dan checkout untuk proyek aplikasi e-commerce tugas akhir semester lalu. Demi memastikan bahwa kalkulasi ongkos kirim dan validasi formulir berjalan tanpa kendala, saya harus mengisi formulir lima belas kolom secara manual lebih dari 40 kali dalam satu malam. Proses berulang tersebut tidak hanya membuat jari terasa pegal dan pikiran jenuh, tetapi juga memicu kecerobohan: beberapa bug penting pada validasi kata sandi baru ketahuan saat ujian demonstrasi karena saya terlewat mengujinya secara manual.

Bagaimana Computer Use Mengubah Peran Asisten AI

Selama ini, kita mengenal GitHub Copilot terutama sebagai asisten pelengkap kode (autocomplete) atau bot obrolan di editor teks VS Code. Batasan terbesar dari model bahasa tradisional adalah ketidakmampuannya melihat dan berinteraksi dengan wujud visual aplikasi yang sedang kita bangun (sumber: GitHub Blog Changelog). Ketika kode menghasilkan tombol yang tumpang tindih atau modal popup yang gagal terbuka, asisten teks biasa tidak akan menyadari anomali tersebut kecuali kita menyalin log error secara manual. Kehadiran fitur Computer Use menjembatani celah besar antara kode sumber di editor dan pengalaman visual pengguna di layar monitor.

Dengan teknologi penglihatan komputer (computer vision) dan emulasi kontrol sistem operasi, agen Copilot kini dapat bertindak layaknya seorang penguji kualitas perangkat lunak (QA engineer) sungguhan (sumber: GitHub Blog Changelog). Agen mengambil tangkapan layar berkala, menganalisis koordinat piksel elemen tombol atau formulir, lalu mengirimkan perintah klik dan ketukan papan ketik ke jendela aplikasi target. Kita perlu membedakan antara harga per token komputasi model AI dan biaya per tugas verifikasi fungsionalitas web secara manual. Walaupun pemrosesan gambar tangkapan layar memakan token vision yang lebih banyak, biaya per tugas pengujian UI turun drastis karena kamu tidak perlu lagi menghabiskan waktu berjam-jam melakukan klik manual.

Cara Mengaktifkan Fitur pada CLI dan Aplikasi Desktop

Untuk mulai menggunakan fitur ini, pastikan kamu sudah memperbarui aplikasi GitHub Copilot desktop dan perkakas Copilot CLI ke versi rilis awal Oktober 2026 (sumber: GitHub Blog Changelog). Pada aplikasi desktop Copilot, buka menu Settings, pilih tab Computer Use, lalu aktifkan toggle izin akses kontrol desktop. Pada sistem operasi macOS dan Windows, sistem akan meminta konfirmasi izin aksesibilitas (Accessibility Permissions) agar aplikasi diizinkan membaca tampilan layar dan mengemulasikan gerakan kursor mouse secara sah.

Bagi pengembang yang lebih menyukai alur kerja berbasis terminal, kamu dapat mengaktifkan fungsionalitas ini melalui parameter perintah CLI saat memulai sesi interaktif (sumber: GitHub Blog Changelog). Kamu cukup menyertakan bendera — enable-computer-use pada perintah pemanggilan Copilot CLI di terminal kamu. Setelah aktif, agen Copilot siap menerima perintah berbasis bahasa alami untuk menguji alur aplikasi web yang sedang berjalan di server lokal (localhost).

Contoh Perintah CLI Nyata untuk Menguji Form Web Lokal

Kelebihan utama Computer Use adalah kamu tidak perlu menulis skrip kode pengujian yang rumit dengan selektor CSS yang kaku (sumber: GitHub Blog Changelog). Kamu cukup memberikan instruksi dalam kalimat terstruktur mengenai apa yang harus diperiksa pada browser web. Berikut adalah contoh perintah praktis di terminal Copilot CLI untuk menguji alur formulir login aplikasi Laravel lokal:

Get ruhulikram’s stories in your inbox

Join Medium for free to get updates from this writer.

# 1. Menjalankan sesi Copilot CLI dengan fitur Computer Use dan isolasi sandbox lokal aktif

copilot — enable-computer-use — sandbox local

# 2. Memberikan instruksi pengujian fungsionalitas UI pada browser lokal

> “Buka browser Chrome ke alamat http://localhost:8000/login.

Ketik ‘mahasiswa@kampus.id’ pada input email dan ‘Password123!’ pada input password.

Klik tombol ‘Masuk’ dan verifikasi apakah halaman berhasil mengarah ke /dashboard.

Jika muncul pesan error merah, ambil tangkapan layar dan jelaskan penyebabnya.”

Ketika perintah di atas dijalankan, agen Copilot akan membuka jendela browser, mendeteksi kotak input formulir secara visual, mengisi data pengujian, dan mengeklik tombol autentikasi (sumber: GitHub Blog Changelog). Jika proses login berhasil dan URL berubah menjadi halaman dashboard, agen akan melaporkan status pengujian sukses secara ringkas di terminal. Jika server mengembalikan validasi gagal, agen akan menandai elemen pesan error dan menyarankan perbaikan pada berkas controller backend kamu. Pola pengujian visual ini sangat membantu mahasiswa untuk memastikan form tugas akhir bebas bug sebelum jadwal presentasi.

Press enter or click to view image in full size

Yang Perlu Diwaspadai

Meskipun kemampuan agen mengendalikan desktop terdengar sangat futuristik, ada beberapa risiko keamanan dan batasan teknis nyata yang wajib kamu perhatikan secara serius (sumber: GitHub Blog Changelog):

  • Risiko Tindakan Tak Terduga pada Jendela Lain: Karena agen beroperasi di tingkat antarmuka grafis sistem operasi, ada kemungkinan agen salah mengeklik tombol jika jendela browser tertutup oleh aplikasi lain (sumber: GitHub Blog Changelog). GitHub menerapkan konfirmasi izin manual sebelum tindakan kritis dieksekusi, dan kamu sangat disarankan untuk tidak meninggalkan laptop tanpa pengawasan saat agen sedang aktif beroperasi.
  • Konsumsi Token Vision dan Latensi Respon: Setiap siklus interaksi visual mengharuskan agen mengirim tangkapan layar resolusi tinggi ke model multimodal cloud (sumber: GitHub Docs Sandboxes). Alur kerja ini mengonsumsi token jauh lebih besar dan memiliki latensi beberapa detik per tindakan dibanding eksekusi perintah terminal biasa. Gunakan fitur ini secara selektif untuk pengujian alur visual penting, bukan untuk tugas komputasi data skala besar.
  • Wajib Dikombinasikan dengan Local Sandboxing: Untuk mencegah agen membuka aplikasi pribadi seperti email, pengelola kata sandi, atau aplikasi perbankan, selalu jalankan Copilot CLI bersama bendera — sandbox local yang dirilis akhir September 2026 (sumber: GitHub Blog Changelog). Isolasi lingkungan sistem berkas dan kredensial lokal memastikan agen hanya berinteraksi dalam batas direktori proyek koding kamu.

Peluncuran status Public Preview untuk fitur Computer Use di GitHub Copilot per awal Oktober 2026 (sumber: GitHub Blog Changelog) membuktikan bahwa asisten kecerdasan buatan kini berevolusi dari sekadar pemberi saran sintaks menjadi kolaborator uji coba yang utuh. Mahasiswa IT dan pengembang perangkat lunak di Indonesia kini dapat mengotomatiskan alur verifikasi visual aplikasi web dengan jauh lebih efisien tanpa harus bergantung pada skrip pengujian yang kaku (sumber: GitHub Blog Changelog). Menguasai orkestrasi agen cerdas yang mampu berinteraksi langsung dengan antarmuka desktop adalah keterampilan modern yang akan sangat berharga bagi masa depan rekayasa perangkat lunak.

--

--