فاتورة الثقة المطلقة.. – أخبار السعودية
كل ثورة تقنية تقدم نمطاً واحداً يتكرر: الانبهار يسبق الفهم. والانبهار يُنتج ثقة عمياء تُكلّف غالياً.
اليوم ملايين الناس يسألون الذكاء الاصطناعي عن صحتهم وقضاياهم وقراراتهم المالية، ويأخذون الإجابة كحقيقة راسخة. 47% من مستخدمي الذكاء الاصطناعي المؤسسي اتخذوا قراراً رئيسياً مبنياً على محتوى مُهلوَس في 2024. والموظفون يقضون 4-3 ساعات أسبوعياً في التحقق من مخرجاته.
الأداة التي وُعدنا بأنها ستوفر الوقت، باتت تستهلكه في مراجعة أخطائها!
في منطقتنا، الهشاشة مضاعفة. معظم النماذج مدرّبة على محتوى إنجليزي. حين تعمل بالعربية، تتضاعف احتمالية الخطأ. طالب يحصل على مراجع مخترعة بأسماء عربية مقنعة. مريض يحصل على تشخيص يبدو طبياً لكنه ملفّق. ومحامٍ يستعين بالذكاء الاصطناعي، يُقدّم حكماً لا وجود له في أي سجل.
هشاشة لم تُناقَش بعد بجدية كافية.
الذكاء الاصطناعي اليوم أداة في طور النضج، لا تُلغيها ولا تُعطيها مفاتيح بيتك.
أفضل النماذج خفّضت معدل الهلوسة من 21% عام 2021 إلى أقل من 1% في مهام معينة، تحسّن بنسبة 96% في 4 سنوات. هذا تقدم حقيقي.
لكن السؤال ليس كم تكذب الآلة؟
السؤال هو: حين تتراكم الأكاذيب وتتداول كحقائق، وتتعلمها نماذج أذكى وتُعيد إنتاجها بثقة أكبر، من يوقف هذا المسار؟
ومن يملك الإجابة اليوم؟ من يفكر في ذلك؟!
لا أحد.
إلى اللقاء،،
• صحفي سعودي — يكتب في مساحة تلتقي فيها التقنية بالإنسان
Every technological revolution presents a recurring pattern: awe precedes understanding. Awe produces blind trust that comes at a high cost.
Today, millions of people are asking artificial intelligence about their health, issues, and financial decisions, taking the answers as established truths. 47% of enterprise AI users made a major decision based on hallucinated content in 2024. Employees spend 3-4 hours weekly verifying its outputs.
The tool that was promised to save us time is now consuming it in reviewing its mistakes!
In our region, the fragility is doubled. Most models are trained on English content. When they operate in Arabic, the likelihood of error multiplies. A student receives fabricated references with convincing Arabic names. A patient gets a diagnosis that sounds medical but is fabricated. And a lawyer using AI presents a ruling that does not exist in any record.
This fragility has not yet been discussed seriously enough.
Today, artificial intelligence is a tool in the process of maturation; do not dismiss it, nor give it the keys to your home.
The best models have reduced the hallucination rate from 21% in 2021 to less than 1% in certain tasks, improving by 96% over 4 years. This is real progress.
But the question is not how much does the machine lie?
The question is: when lies accumulate and circulate as truths, and are learned by smarter models and reproduced with greater confidence, who stops this trajectory?
And who has the answer today? Who is thinking about this?!
No one.
Goodbye,,
• A Saudi journalist — writing in a space where technology meets humanity
للمزيد من المقالات
اضغط هنا