Terbang Lebih Aman Berkat Data dan Kolaborasi—Hal yang Dapat Dipelajari Industri AI dari Maskapai Penerbangan tentang Keselamatan

Dicetak ulang dari artikel ini percakapan Di bawah lisensi Creative Commons. baca terus Artikel utama.

Sekitar 185.000 orang Meninggal dalam kecelakaan pesawat sipil Sejak munculnya penerbangan bertenaga seabad yang lalu. Namun, dalam lima tahun terakhir, di kalangan maskapai penerbangan AS Risiko kematian hampir nol. Faktanya, Anda memiliki peluang lebih besar untuk memenangkan sebagian besar lotere daripada mati sebagai penumpang maskapai penerbangan AS.

Bagaimana penerbangan menjadi begitu aman? Dan bisakah kita menerapkan pelajaran keselamatan yang diperoleh dengan susah payah dari penerbangan hingga kecerdasan buatan?

Ketika umat manusia memperkenalkan teknologi baru yang mampu mengubah paradigma dan teknologi tersebut dengan cepat diadopsi di seluruh dunia, konsekuensi di masa depan tidak diketahui dan sering kali dikhawatirkan secara kolektif. D Pengenalan penerbangan bertenaga 1903 oleh Wright bersaudara tidak terkecuali. Ada keberatan agama dan politik terhadap teknologi baru ini teknis kekhawatiran

Tidak lama setelah diperkenalkannya penerbangan bertenaga, kecelakaan pesawat pertama terjadi – dan tidak lama kemudian, pada hari yang sama. itu terjadi Penerbangan keempat Wright bersaudara. Orang pertama yang meninggal dalam kecelakaan pesawat Dia dibunuh lima tahun kemudian pada tahun 1908. Sejak itu, telah terjadi lebih dari 89.000 kecelakaan pesawat di seluruh dunia.

Saya seorang peneliti Studi Keselamatan Perjalanan UdaraDan saya dapat melihat bagaimana industri AI saat ini mirip dengan tahun-tahun awal – dan jelas kurang aman – dalam industri penerbangan.

Prediksikan hal tersebut berdasarkan studi kecelakaan

Meski tragis, setiap kecelakaan dan kematian menghadirkan momen refleksi dan pembelajaran. Penyelidik kecelakaan mencoba untuk menciptakan kembali setiap kecelakaan dan mengidentifikasi penyebab dan akar penyebab kecelakaan tersebut. Setelah penyelidik mengidentifikasi penyebab setiap kecelakaan, produsen dan operator pesawat menerapkan langkah-langkah keselamatan dengan harapan dapat mencegah kecelakaan tambahan.

Misalnya, jika seorang pilot pada era penerbangan sebelumnya lupa menurunkan roda pendaratan sebelum mendarat, kemungkinan besar akan terjadi kecelakaan pendaratan. Oleh karena itu, industri penerbangan mempertimbangkan untuk memasang sistem peringatan yang akan mengingatkan pilot akan kondisi roda pendaratan yang tidak aman – sebuah pembelajaran yang hanya didapat setelah kecelakaan terjadi. Proses reaktif ini, bila diperlukan, harus dibayar mahal untuk mempelajari cara meningkatkan keamanan.

Pada abad ke-20, dunia penerbangan Mengatur dan menstandardisasi operasi, prosedur, dan prosesnya. Pada tahun 1938, Presiden Franklin Roosevelt menandatangani Undang-Undang Penerbangan Sipil, yang Mendirikan Otoritas Penerbangan Sipil. Cikal bakal Administrasi Penerbangan Federal ini mencakup Dewan Keamanan Udara.

Paradigma keamanan yang sepenuhnya reaktif berubah dari waktu ke waktu menjadi proaktif dan akhirnya prediktif. Pada tahun 1997, industri, buruh dan pemerintah membentuk kelompok yang disebut Kelompok Organisasi Penerbangan Tim Keselamatan Penerbangan Komersial. Mereka mulai melihat data dan mencoba menemukan tren serta menganalisis laporan pengguna untuk mengidentifikasi risiko dan bahaya sebelum berubah menjadi kecelakaan besar.

Kelompok tersebut, yang mencakup FAA dan NASA, awalnya memutuskan bahwa tidak akan ada persaingan antar maskapai penerbangan dalam hal keselamatan. Industri akan secara terbuka berbagi informasi keselamatan. Kapan terakhir kali Anda melihat kampanye iklan maskapai penerbangan yang menyatakan “maskapai penerbangan kami lebih aman daripada maskapai mereka”?

Itu turun

Tim Keselamatan Penerbangan Komersial telah membantu mengubah industri dari reaktif menjadi prediktif dengan mengadopsi pendekatan sistematis berbasis data untuk mengatasi masalah keselamatan. Ini menghasilkan data ini menggunakan laporan manusia dan data pesawat.

Setiap hari, jutaan penerbangan dilakukan di seluruh dunia dan ribuan titik data dicatat pada setiap penerbangan tersebut. Sekarang digunakan oleh para profesional keamanan penerbangan Perekam data penerbangan – digunakan untuk menyelidiki kecelakaan dalam jangka waktu yang lama – untuk menganalisis data dari setiap penerbangan. Dengan memeriksa secara cermat semua data ini, analis keamanan dapat melakukannya Temukan peristiwa dan tren yang muncul dan meresahkan. Misalnya, dengan menganalisis data, seorang ilmuwan keselamatan terlatih dapat mengetahui apakah pesawat tertentu di landasan pacu menjadi rentan karena faktor-faktor seperti kecepatan udara yang berlebihan dan kesejajaran yang buruk – sebelum kecelakaan pendaratan terjadi.

Untuk lebih meningkatkan kemampuan proaktif dan prediktif, siapa pun yang bekerja dalam sistem penerbangan dapat mengajukan Pelaporan keselamatan anonim dan tidak bersifat menghukum. Tanpa jaminan anonimitas, orang mungkin ragu untuk melaporkan masalah dan industri penerbangan akan kehilangan informasi penting terkait keselamatan.

Semua informasi ini Disimpan, dikumpulkan dan dianalisis Oleh para ilmuwan keselamatan, yang melihat sistem secara keseluruhan dan mencoba menemukan penyebab kecelakaan sebelum menyebabkan kecelakaan. Risiko kematian sebagai penumpang maskapai penerbangan AS kini Kurang dari 1 dalam 98 juta. Anda lebih mungkin untuk mati Dalam perjalanan Anda ke bandara daripada kecelakaan pesawat. Kini, lebih dari 100 tahun setelah munculnya penerbangan bertenaga listrik, industri penerbangan – setelah memetik pelajaran berharga – menjadi sangat aman.

Sebuah model untuk AI

AI dengan cepat merambah ke banyak bidang kehidupan, mulai dari mobil tanpa pengemudi hingga operasi peradilan pidana serta keputusan perekrutan dan peminjaman. Namun, teknologi ini masih jauh dari mudah, dan kelemahan yang disebabkan oleh AI telah mengubah hidup — dan dalam beberapa kasus bahkan hidup dan mati – Konsekuensi.

Hampir semua perusahaan AI mencoba menerapkan sesuatu Sistem keamanan. Namun tampaknya mereka melakukan upaya ini secara individu, sama seperti yang dilakukan oleh para pemain awal di dunia penerbangan. Dan upaya ini sebagian besar bersifat reaktif, menunggu AI melakukan kesalahan dan kemudian mengambil tindakan.

Bagaimana jika ada kelompok seperti Tim Keselamatan Penerbangan Komersial di mana seluruh perusahaan AI, regulator, akademisi, dan pihak berkepentingan lainnya berkumpul untuk memulai proses proaktif dan prediktif untuk memastikan AI tidak menimbulkan bencana?

Dari perspektif pelaporan, bayangkan jika setiap antarmuka AI memiliki tombol laporan yang dapat diklik pengguna untuk tidak hanya melaporkan temuan yang berpotensi berhalusinasi dan tidak aman kepada setiap perusahaan, namun juga kepada organisasi AI yang meniru tim keselamatan penerbangan komersial. Selain itu, data yang dihasilkan oleh sistem AI, seperti yang kita lihat dalam penerbangan, juga dapat dikumpulkan, dikumpulkan, dan dianalisis untuk mengetahui ancaman keamanan.

Meskipun pendekatan ini mungkin bukan solusi utama untuk mencegah kerusakan akibat AI, jika Big Tech mengambil pembelajaran dari pihak lain Seni dengan konsekuensi tinggi Seperti halnya penerbangan, ia dapat belajar mengendalikan, mengatur, dan, tentu saja, menjadikan AI aman untuk digunakan semua orang.

James HigginsProfesor Penerbangan, Universitas Dakota Utara