Seorang pelanggan BMW Toronto hampir kehilangan kesepakatan buyback senilai $27.162,79 karena tawaran itu dibuat oleh AI chatbot. Setelah media turun tangan, dealer akhirnya menghormati tawaran tersebut.
Seorang pelanggan BMW Toronto hampir kehilangan kesepakatan buyback senilai lebih dari $27.000 karena tawaran itu dibuat oleh kecerdasan buatan (AI).
Zack Giacomelli, seorang direktur pemakaman, mencoba menjual BMW X3 2021 miliknya ke dealer yang sama tempat ia membelinya.
Setelah mengirimkan pertanyaan secara daring, ia mulai berkirim pesan dengan "Quinn," yang tampak seperti perwakilan dealer.
Percakapan dengan cepat mengarah pada kesepakatan. Quinn menawarkan $27.162,79 untuk mobil tersebut, angka yang persis sama dengan sisa pinjaman Giacomelli.
"Saya merasa orang Quinn ini akhirnya mendengarkan saya," kata Giacomelli. "Saya merasa sangat senang."
AI bahkan menjadwalkan janji temu untuk menyelesaikan transaksi, dengan mengatakan, "Mari kita kunci hari ini jam 3:30."
Kemudian semuanya berantakan.
Seorang karyawan dealer menelepon Giacomelli dan menjelaskan bahwa Quinn bukanlah manusia, melainkan chatbot AI yang membuat tawaran secara tidak sengaja.
"Dia mengatakan tawaran itu tidak valid," kenang Giacomelli. "Saya terkejut, saya tercengang, seperti rahang saya jatuh ke lantai."
Nilai buyback sebenarnya, menurut dealer, sekitar $20.000, meninggalkan selisih lebih dari $7.000.
"Saya hancur," katanya. "Jika mereka akan mengganti pekerjaan karyawan dengan AI, maka mereka harus menghormati apa yang dikatakan AI itu."
Giacomelli mengatakan ia tidak tahu bahwa ia sedang berbicara dengan AI. Chatbot tidak pernah mengidentifikasi dirinya sebagai kecerdasan buatan selama percakapan.
Setelah CBC News menghubungi dealer, BMW Toronto berbalik arah dan mengembalikan tawaran awal sebesar $27.162,79. Giacomelli segera menerimanya.
Kesalahan AI dan Pelajaran bagi Dealer
Manajer penjualan dealer mengatakan kepada CBC bahwa kesalahan itu berasal dari kegagalan komunikasi.
AI secara keliru menafsirkan jumlah sisa pinjaman sebagai jumlah yang harus dibayar dealer untuk kendaraan tersebut.
BMW Toronto mengatakan sekarang mereka mengubah prosedur sehingga hanya karyawan manusia yang menyajikan tawaran buyback, dan pelanggan diberi tahu dengan jelas saat mereka berinteraksi dengan AI.
Dealer yang ingin memangkas biaya dengan chatbot AI mungkin perlu lebih waspada. Pelanggan juga harus lebih berhati-hati.