When the Machine Hallucinates and the State Believes It ~ حين تهلوس الآلة وتصدّقها الدولة

Artificial Intelligence, Institutional Authority and the Right to an Accountable Decision

Abdel-Rahman Ayas

Abstract

Artificial intelligence is increasingly used to summarise testimony, retrieve policy material and assist officials responsible for decisions with profound consequences. Its advocates emphasise speed and consistency; its critics warn of fabrication, opacity and bias. A reported British asylum case illustrates a deeper danger. A Home Office refusal letter cited a country document that apparently did not exist, and an Upper Tribunal judge reportedly observed that the letter bore hallmarks consistent with the use of artificial intelligence. It has not been established that AI produced the citation. Yet the episode exposes a problem that extends beyond any individual technology: once unreliable information enters an official document, institutional authority may lend it a credibility it has not earned. Drawing on the Home Office’s own evaluations, an official Upper Tribunal decision concerning fabricated legal authorities, and emerging European standards, this article argues that meaningful human oversight requires more than placing an official at the end of an automated process. It demands traceable sources, informed scrutiny, disclosure, an effective opportunity to challenge errors and clear responsibility when things go wrong.

The Genie Enters the Office

In folklore, the genie is powerful, quick and capable of granting what would otherwise require long labour. Its gifts, however, tend to follow the wording of a command more faithfully than the intention behind it. The modern electronic genie has inherited something of that ambiguity. Generative artificial intelligence can read hundreds of pages, produce a fluent summary and retrieve information in seconds. It can also omit an important qualification, merge separate facts or confidently invent a source.

In casual conversation, such an error may be inconvenient or absurd. In public administration, it can become evidence. A fabricated reference placed in an official letter does not arrive looking like a rumour. It carries a government heading, a caseworker’s authority and the practical force of the state. The central danger, therefore, is not simply that a machine may “hallucinate”. It is that an institution may fail to notice – or may treat the machine’s polished language as sufficient reason not to look closely.

That risk is particularly serious in asylum proceedings. The decision-maker is not merely sorting information. He or she is assessing a person’s account of persecution, the conditions in another country and the likelihood of future harm. Errors can affect whether a family is protected or returned to danger. Efficiency matters in an overburdened system, but the time saved belongs to the administration; the consequences of error belong primarily to the applicant.

When a Source Cannot Be Found

In July 2026, The Guardian reported the case of a Moroccan woman and her child who had fled forced underage marriage and extreme violence. The woman said that she feared being killed by her husband, described as a powerful man with a previous criminal conviction. According to the report, the Home Office rejected her asylum claim after citing a “Morocco July 2021” country policy and information note, or CPIN, as support for the proposition that Morocco would be safe for her return.[1]

CPINs are published Home Office documents used by immigration officials when deciding asylum and human-rights applications. They combine country information with policy analysis and are often treated as authoritative in proceedings. Yet the document cited in this case could not be located. The First-tier Tribunal reportedly relied on it when rejecting the woman’s appeal. At the Upper Tribunal, however, a judge said that no such CPIN appeared ever to have existed and that the Home Office’s own country-policy team had been unable to confirm it.[2]

After examining the refusal letter, the judge reportedly said that it bore “hallmarks consistent with the use of artificial intelligence”. References to the supposed document might, he suggested, have resulted from an AI hallucination. If that proved to be the explanation, it would constitute an extremely serious failure. Reliance on a document that did not exist was described as analogous to relying on bogus evidence and as a procedural irregularity.[3]

The conditional language is essential. The available public reporting does not establish that an AI system wrote the letter or invented the reference. Other explanations – human error, confused document names, careless copying or a failure of record-keeping – have not been excluded. The woman’s proceedings were also reported to be continuing. The relevant tribunal decision has not been identified in the publicly searchable official database, so the case should not be assigned an invented name, number or neutral citation.[4]

What is firmly established by the reported account is troubling enough. An apparently nonexistent source entered an official refusal letter and was then relied upon in the adjudicative process. The problem was not confined to the moment when the false reference was produced. It survived because people and procedures around it did not stop it.

How an Error Acquires Authority

Generative AI does not retrieve truth in the manner of a conventional index. A large language model generates sequences of words that are statistically plausible in context. When it lacks reliable information, it may still produce a fluent answer. A fabricated report title can resemble a real one; a false quotation can sound legally precise; an invented citation can imitate the form of an authentic authority.

Fluency becomes especially dangerous inside a hierarchy. Officials working under pressure may interpret polished language as evidence of competence. A source appearing in a government document may receive less scrutiny because the reader assumes that someone earlier in the process checked it. When the same assertion reaches an appeal, repetition itself can create credibility.

Researchers describe part of this tendency as “automation bias”: people may favour an automated recommendation over contradictory information or fail to investigate an error because the system’s output appears authoritative.[5] Expertise does not eliminate the problem. Busy professionals can be particularly vulnerable when an automated answer looks reasonable and saves time.

The machine, however, does not create institutional authority by itself. People and organisations confer that authority when they insert its output into workflows, give it an official form and permit later decision-makers to rely upon it. Calling the result a “computer error” can therefore obscure responsibility. Software may generate the falsehood, but institutions determine whether it is checked, disclosed, corrected and allowed to affect a person’s life.

What the Home Office Trials Actually Show

The Home Office has openly tested AI-supported tools in asylum casework. One, the Asylum Case Summarisation tool, or ACS, uses a large language model to summarise interview transcripts. Another, the Asylum Policy Search tool, or APS, searches for and summarises country-policy material. The department states that these systems assist rather than replace decision-makers.[6]

Its evaluation of small-scale pilots conducted between May and December 2024 found potentially significant time savings. Staff using ACS reviewed interview transcripts an average of 23 minutes faster – a reduction of 32 per cent – while APS users saved an average of 37 minutes when researching country-policy information.[7] In a system facing extensive caseloads and delay, these gains are not trivial.

The same evaluation, however, contains findings that deserve equal attention. Technical specialists reviewed ACS summaries before they reached participating decision-makers. Nine per cent were considered inaccurate or incomplete and were removed from the pilot. Among the summaries that proceeded, 23 per cent of users reported that they were not fully confident in the information. Some participants also said that the lack of source references reduced the time saved because they still needed to return to the original material.[8]

A limited dip-sample found similar proportions of sustained decisions in the pilot and comparison groups. The evaluation therefore detected no apparent positive or negative effect on decision quality during the trials. That finding should neither be dismissed nor overstated. The pilots involved a small number of units selected partly for their availability; survey responses for one phase were too limited to use; and every summary was subject to technical review before use. The Home Office itself concluded that further evaluation would be needed for a full rollout.[9]

The results support a careful position rather than a dramatic one. They show that AI may save time and that many outputs can be useful. They also show that a meaningful proportion of summaries required removal or inspired incomplete confidence. In asylum work, an omitted date, a flattened contradiction or a misunderstood relationship can change how credibility and risk are assessed.

Human Oversight – or Human Endorsement?

“Human in the loop” has become a reassuring expression in debates about automated government. Yet the presence of a person somewhere in the process does not guarantee meaningful control. If the reviewer is rushed, cannot identify the source of each statement, assumes that previous checks have taken place or is encouraged to value speed above scrutiny, human oversight may become little more than human endorsement.

The official design of APS requires users to consult the full CPIN or country-of-origin information request rather than rely exclusively on the AI-generated answer. That is an important safeguard. Its effectiveness depends on whether the cited document exists, whether the system links to the correct passage and whether officials have enough time and training to examine it.

A directly relevant warning appears in the official Upper Tribunal decision UK and R (Munir) v Secretary of State for the Home Department (AI hallucinations; supervision; Hamid). The case concerned false legal authorities submitted by representatives, not AI use by the Home Office. It should not be confused with the Moroccan woman’s case. Nevertheless, the Tribunal’s reasoning is instructive. It held that legal professionals remain responsible for ensuring factual and legal accuracy, including work delegated to junior colleagues, and warned that non-specialist AI can produce convincing but fictitious authorities. It consequently required representatives to confirm that cited authorities exist, can be located and support the propositions for which they are invoked.[10]

This is a practical model of accountability. The response to unreliable automation was not to ask whether a human had touched the document. It was to require verification of identifiable sources and to attach responsibility to the person signing the submission. A comparable principle should govern administrative decisions: no adverse finding should depend on a source that the responsible official has not located and checked.

Summarising a Human Life

An asylum interview is not a neutral collection of facts. It may contain hesitation, repetition, fragmented memory and apparent inconsistency. Trauma can affect recall. Interpretation can alter emphasis. A survivor may disclose abuse gradually or struggle to describe experiences that carry shame or danger.

A summary inevitably makes choices about what matters. It shortens chronology, removes repetition and arranges a complicated account into categories. These functions can help a caseworker navigate a long transcript, but they can also erase the very features needed to understand it. A sentence labelled inconsistent may reflect fear, mistranslation or the difference between an initial disclosure and a later, fuller account.

The Open Rights Group commissioned a 2026 legal opinion by Robin Allen KC, Dee Masters and Joshua Jackson examining the Home Office tools. It argued that ACS and APS do more than organise existing material: they generate new text that filters and reformulates information relevant to the legal assessment. The opinion raised concerns about transparency, access to outputs, data accuracy and the ability of applicants to correct errors.[11]

The safest use of summarisation is therefore navigational, not evidential. A summary may help an official find the relevant part of a transcript, but it should not replace the transcript when credibility, inconsistency or risk is being assessed. Every material statement should remain linked to its source, and the applicant or representative should be able to inspect and challenge any AI-produced account used in reaching the decision.

The Right to Know and the Power to Challenge

Accountability begins with notice. A person cannot effectively dispute an automated error if he or she does not know that an AI system was used, what it produced or how its output influenced the decision. General statements that technology merely “assists” officials are not enough.

Where AI contributes materially to a decision, applicants should be told which system was used and for what purpose. Relevant outputs should be retained in the case record. Summaries and policy answers should contain verifiable links to their sources. When an applicant identifies an error, there should be a practical procedure for correcting it before it is repeated in later stages.

These safeguards are consistent with the broader direction of European standards. The Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law requires parties to address transparency, oversight, accountability and effective remedies in relation to AI systems.[12] The European Union’s AI Act classifies specified uses of AI in migration, asylum and border-control management as high-risk, subject to the Act’s definitions and qualifications.[13] The AI Act is not British domestic law, but its classification reflects an important principle: systems used in decisions affecting protection, movement and legal status deserve more scrutiny than ordinary administrative software.

The Real Cost of Saving Time

The attraction of AI in government is understandable. Asylum systems are expensive, slow and administratively demanding. A tool that saves half an hour per file appears to offer thousands of hours across a large caseload. Faster processing may also benefit applicants who otherwise wait months or years for an answer.

But administrative time and human risk are not interchangeable units. A government records the minutes saved; an applicant bears the consequences of a missing fact or fabricated source. Errors may later produce appeals, rehearings, legal costs and further delay, eroding the original saving. They may also damage public trust in decisions that require legitimacy as well as speed.

This does not mean that AI must be excluded from asylum administration. Used carefully, it may help officials locate information, manage large records and reduce repetitive work. The question is where the tool is placed and what authority its output receives. Technology that helps a decision-maker find an original source is different from technology whose summary quietly becomes a substitute for that source.

A genuine dialogue between human judgement and artificial intelligence requires a division of labour. The system may search, organise and suggest. The responsible official must verify, interpret and decide. The person affected must know enough to challenge the process. And the institution must remain answerable for the result.

Conditions for a Genuine Dialogue

Several safeguards follow from this distinction.

First, every consequential AI-generated assertion should be traceable to an accessible source. A citation that cannot be opened and checked should carry no evidential weight.

Second, officials need time and training to question automated outputs. Oversight cannot be meaningful if productivity targets reward acceptance and penalise careful verification.

Third, AI-generated summaries should not replace original testimony in credibility assessments. Their proper role is to guide the reader back to the record.

Fourth, applicants should be informed when AI has materially contributed to their case and should receive any output relied upon, subject to legitimate and proportionate restrictions.

Fifth, public bodies should retain audit records showing the system used, its version, the material supplied to it, the output produced and the checks undertaken.

Finally, responsibility must remain identifiable. Neither the vendor nor the model can bear a public-law duty. The official and the institution that adopt the output remain accountable for the decision.

Conclusion

The electronic genie is not an autonomous ruler. It operates within systems designed by people, purchased by institutions and trusted by officials. Its most dangerous errors are not necessarily the wildest. They are the plausible ones: the source that sounds familiar, the summary that omits one decisive detail, the confident paragraph that passes through several hands because everyone assumes someone else has checked it.

The reported Moroccan case does not prove that artificial intelligence produced the false citation. It establishes something institutionally troubling enough: an apparently nonexistent source entered an official decision and was subsequently treated as authoritative. The episode shows how easily technical uncertainty can acquire the force of the state.

The choice is not between rejecting AI and surrendering judgement to it. The more demanding task is to build a relationship in which the technology remains useful without becoming unaccountable. A real dialogue requires the machine to show its sources, the official to exercise independent judgement, the affected person to be heard and the institution to accept responsibility. Without those conditions, the electronic genie does not merely answer the state’s command. It may quietly rewrite the reality on which the state acts.

Endnotes

1. Diane Taylor, “Home Office Used ‘AI Hallucinated’ Information to Refuse Asylum Claim, Judge Suggests,” The Guardian, 28 July 2026, https://www.theguardian.com/uk-news/2026/jul/28/home-office-used-ai-hallucinated-information-to-refuse-asylum-claim-judge-suggests.

2. Ibid. The official GOV.UK collection describes CPINs as guidance used by UK Visas and Immigration in asylum and human-rights decisions. Its update history records a Morocco CPIN page added in July 2017, while the current collection contains no Morocco page: UK Visas and Immigration, “Country Policy and Information Notes,” updated 5 June 2026, https://www.gov.uk/government/collections/country-policy-and-information-notes.

3. Taylor, “Home Office Used ‘AI Hallucinated’ Information.”

4. The present article relies on Taylor’s report for the facts and quoted judicial observations concerning this continuing case. Searches of the publicly accessible Upper Tribunal and National Archives databases did not identify a corresponding published decision as of 25 September 2026. No case name, appeal number or judge’s identity should therefore be inferred.

5. Lauren Kahn, Emelia S. Probasco and Ronnie Kinoshita, AI Safety and Automation Bias (Washington, DC: Centerfor Security and Emerging Technology, November 2024), https://doi.org/10.51593/20230057.

6. Home Office, “Evaluation of AI Trials in the Asylum Decision Making Process,” 29 April 2025, https://www.gov.uk/government/publications/evaluation-of-ai-trials-in-the-asylum-decision-making-process/evaluation-of-ai-trials-in-the-asylum-decision-making-process.

7. Ibid. See also UK Parliament, written question 121674, answered 24 March 2026, https://questions-statements.parliament.uk/written-questions/detail/2026-03-17/121674.

8. Home Office, “Evaluation of AI Trials.” The nine per cent figure refers to ACS summaries screened by technical specialists and removed before use. The 23 per cent figure refers to users’ confidence in summaries that proceeded into the pilot; it does not mean that 23 per cent were proven inaccurate.

9. Ibid. The Home Office’s conclusion that the tools did not appear to affect decision quality was based on limited dip-samples that found similar proportions of sustained decisions in the test and comparison groups.

10. UK and R (on the application of Munir) v Secretary of State for the Home Department (AI hallucinations; supervision; Hamid) [2026] UKUT 81 (IAC), especially paras 1-9 and 17-21, https://caselaw.nationalarchives.gov.uk/ukut/iac/2026/81. This is an official published decision, but it concerns the conduct of legal representatives and is not the reported decision in the Moroccan woman’s case.

11. Robin Allen KC, Dee Masters and Joshua Jackson, The Use of Artificial Intelligence Tools by the Government: A Case Study of the Home Office’s Asylum Practice, legal opinion commissioned by Open Rights Group, 16 March 2026, https://www.openrightsgroup.org/app/uploads/2026/03/Legal-Opinion-on-AI-tools-in-the-asylum-process.pdf.

12. Council of Europe, Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, CETS No. 225, opened for signature 5 September 2024, https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence.

13. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence, OJ L, 12 July 2024, art. 6 and annex III, section 7. The regulation’s designation is subject to its definitions, exclusions and the qualifications in Article 6. It is cited as a comparative regulatory standard, not as applicable UK domestic law.

Bibliography

Allen, Robin, KC, Dee Masters and Joshua Jackson. The Use of Artificial Intelligence Tools by the Government: A Case Study of the Home Office’s Asylum Practice. Legal opinion commissioned by Open Rights Group. 16 March 2026. https://www.openrightsgroup.org/app/uploads/2026/03/Legal-Opinion-on-AI-tools-in-the-asylum-process.pdf.

Council of Europe. Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. CETS No. 225. Opened for signature 5 September 2024. https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence.

European Union. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence. Official Journal of the European Union, 12 July 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj.

Home Office. “Evaluation of AI Trials in the Asylum Decision Making Process.” 29 April 2025. https://www.gov.uk/government/publications/evaluation-of-ai-trials-in-the-asylum-decision-making-process/evaluation-of-ai-trials-in-the-asylum-decision-making-process.

Kahn, Lauren, Emelia S. Probasco and Ronnie Kinoshita. AI Safety and Automation Bias. Washington, DC: Center for Security and Emerging Technology, November 2024. https://doi.org/10.51593/20230057.

Taylor, Diane. “Home Office Used ‘AI Hallucinated’ Information to Refuse Asylum Claim, Judge Suggests.” The Guardian, 28 July 2026. https://www.theguardian.com/uk-news/2026/jul/28/home-office-used-ai-hallucinated-information-to-refuse-asylum-claim-judge-suggests.

UK Parliament. “Asylum: Artificial Intelligence.” Written question 121674, answered 24 March 2026. https://questions-statements.parliament.uk/written-questions/detail/2026-03-17/121674.

UK Visas and Immigration. “Country Policy and Information Notes.” Updated 5 June 2026. https://www.gov.uk/government/collections/country-policy-and-information-notes.

Upper Tribunal (Immigration and Asylum Chamber). UK and R (on the application of Munir) v Secretary of State for the Home Department (AI hallucinations; supervision; Hamid)[2026] UKUT 81 (IAC). https://caselaw.nationalarchives.gov.uk/ukut/iac/2026/81.

حين تهلوس الآلة وتصدّقها الدولة

الذكاء الاصطناعي وسلطة المؤسّسات والحقّ في قرار خاضع إلى المساءلة

عبد الرحمن أياس

الملخّص

يتزايد استخدام الذكاء الاصطناعي في تلخيص الإفادات، والبحث عن المواد المتعلّقة بالسياسات، ومساعدة الموظّفين المسؤولين عن قرارات تترتّب عليها عواقب بالغة الأهمية. ويشدّد مؤيّدوه على السرعة والاتّساق، فيما يحذّر منتقدوه من الاختلاق والغموض والتحيّز. تكشف قضية لجوء بريطانية تناولتها وسائل الإعلام خطراً أعمق. استند خطاب رفض أصدرته وزارة الداخلية البريطانية إلى وثيقة تخصّ بلداً معيّناً تبيّن، على ما يبدو، أنّها غير موجودة، فيما لاحظ قاضٍ في المحكمة العليا لشؤون الهجرة واللجوء، بحسب ما نُشِر، أنّ الخطاب يحمل سمات تتّسق مع استخدام الذكاء الاصطناعي. ولم يثبت أنّ الذكاء الاصطناعي هو الذي أنشأ ذلك المرجع. إلا أنّ الواقعة تكشف مشكلة تتجاوز أيّ تقنية منفردة: ما إن تدخل معلومة غير موثوقة في وثيقة رسمية حتى تضفي عليها سلطة المؤسّسة صدقية لم تكتسبها فعلياً. واستناداً إلى تقييمات وزارة الداخلية نفسها، وقرار رسمي صادر عن المحكمة العليا المختصّة في شأن مراجع قانونية مختلقة، ومعايير أوروبية ناشئة، يجادل هذا المقال بأنّ الرقابة البشرية الفعلية تتطلّب أكثر من مجرّد وضع موظّف في نهاية عملية مؤتمتة. هي تستلزم مصادر قابلة للتتبّع، وتدقيقاً واعياً، وإفصاحاً، وفرصة حقيقية للطعن في الأخطاء، ومسؤولية واضحة عندما تسوء الأمور.

دخول الجِنّي إلى المكتب

في الحكايات الشعبية، يتمتّع الجِنّي بقوة هائلة وسرعة فائقة، ويستطيع تحقيق ما يتطلّب في الأحوال العادية جهداً طويلاً. غير أنّ عطاياه كثيراً ما تستجيب إلى حرفية الأمر أكثر ممّا تستجيب إلى النية الكامنة وراءه. ورث الجِنّي الإلكتروني الحديث شيئاً من هذا الالتباس. يستطيع الذكاء الاصطناعي التوليدي قراءة مئات الصفحات، وإنتاج ملخّص سلس، والعثور على المعلومات خلال ثوانٍ. لكنه يستطيع أيضاً إسقاط قيد مهمّ، أو دمج وقائع منفصلة، أو اختلاق مصدر بثقة كاملة.

قد يكون خطأ كهذا مزعجاً أو مثيراً للسخرية في حديث عابر، لكنه يمكن أن يتحوّل إلى دليل داخل الإدارة العامة. المرجع المختلق، حين يُدرَج في خطاب رسمي، لا يصل إلى قارئه في هيئة شائعة، بل يحمل ترويسة حكومية، وسلطة الموظّف المعنيّ، والقوة العملية للدولة. لذلك، لا يكمن الخطر الأساسي في أنّ الآلة قد “تهلوس” فحسب، بل كذلك في احتمال عجز المؤسّسة عن ملاحظة ذلك، أو تعاملها مع لغة الآلة المصقولة باعتبارها سبباً كافياً لعدم التدقيق.

ويغدو هذا الخطر شديداً على نحو خاص في إجراءات اللجوء. لا يكتفي متّخذ القرار بفرز المعلومات، بل يقيّم رواية شخص عن الاضطهاد، والأوضاع في بلد آخر، واحتمال تعرّضه إلى أذى مستقبلي. ويمكن أن تؤثّر الأخطاء في تقرير ما إذا كانت أسرة ما ستحصل على الحماية أم ستُعَاد إلى مكان قد تتعرّض فيه إلى خطر. ولا شكّ في أنّ الكفاءة مهمة داخل منظومة مثقلة بالملفّات، لكن الوقت الذي يجري توفيره يعود إلى الإدارة، فيما يتحمّل طالب اللجوء، قبل سواه، عواقب الخطأ.

حين يتعذّر العثور على المصدر

في تموز (يوليو) 2026، أوردت صحيفة “الغارديان” قضية امرأة مغربية وطفلها فرّا من زواج قسري في سنّ مبكرة ومن عنف شديد. وقالت المرأة إنّها تخشى أن يقتلها زوجها، الذي وُصِف بأنّه رجل نافذ سبق أن أُدِين جنائياً. ووفقاً للتقرير، رفضت وزارة الداخلية البريطانية طلب لجوئها، مستندة إلى ما وصفته بأنّه “مذكّرة سياسات ومعلومات المغرب – تموز 2021″، أو ما يُعرَف اختصاراً بـCPIN، لتأييد القول إنّ عودتها إلى المغرب ستكون آمنة.[1]

ومذكّرات سياسات ومعلومات البلدان، أو CPINs، هي وثائق تنشرها وزارة الداخلية ويستخدمها مسؤولو الهجرة عند البتّ في طلبات اللجوء وحقوق الإنسان. وهي تجمع بين معلومات عن البلدان وتحليل للسياسات، وكثيراً ما تُعامَل في الإجراءات القضائية باعتبارها مصادر موثوقة. غير أنّ الوثيقة المشار إليها في هذه القضية تعذّر العثور عليها. وبحسب ما نُشِر، استندت محكمة الدرجة الأولى لشؤون الهجرة واللجوء إليها عندما رفضت استئناف المرأة. لكن قاضياً في المحكمة العليا لشؤون الهجرة واللجوء قال إنّ هذه المذكّرة لم تُوجَد قط، على ما يبدو، وإنّ فريق معلومات البلدان وسياساتها التابع لوزارة الداخلية نفسها لم يتمكّن من تأكيد وجودها.[2]

وبعد فحص خطاب الرفض، قال القاضي، بحسب التقرير، إنّه يحمل “سمات تتّسق مع استخدام الذكاء الاصطناعي”. وأشار إلى أنّ الإحالات إلى الوثيقة المفترضة ربما نجمت عن هلوسة من طرف الذكاء الاصطناعي. وأضاف أنّ ثبوت هذا التفسير سيعني وقوع تقصير بالغ الخطورة. كما وصف الاعتماد على وثيقة غير موجودة بأنّه يماثل الاعتماد على دليل زائف، واعتبره مخالفة إجرائية.[3]

ولا بدّ من الانتباه إلى الطابع المشروط لهذه اللغة. لا تثبت التغطية المنشورة والمتاحة للجمهور أنّ نظاماً يعمل بالذكاء الاصطناعي كتب الخطاب أو اختلق المرجع. كذلك لم تُستبعَد تفسيرات أخرى، مثل الخطأ البشري، أو الخلط بين أسماء الوثائق، أو النسخ من دون تدقيق، أو الإخفاق في حفظ السجلّات. وأُفِيد أيضاً بأنّ إجراءات قضية المرأة لم تكن قد انتهت. كذلك، لم يمكن تحديد القرار القضائي المعنيّ في قاعدة البيانات الرسمية العامة القابلة للبحث، ولذلك لا يجوز اختلاق اسم للقضية أو رقم لها أو مرجع قضائي رسمي.[4]

لكن ما تثبته الرواية المنشورة بوضوح مثير للقلق في حدّ ذاته. فقد دخل مصدر يبدو أنّه غير موجود في خطاب رفض رسمي، ثم جرى الاعتماد عليه في المسار القضائي. ولم تقتصر المشكلة على اللحظة التي أُنتِج فيها المرجع الزائف، بل استمرّت لأنّ الأشخاص المحيطين به لم يوقفوه.

كيف يكتسب الخطأ سلطة؟

لا يسترجع الذكاء الاصطناعي التوليدي الحقيقة بالطريقة التي يعمل بها الفهرس التقليدي. يولّد نموذج لغوي كبير، أو LLM، متواليات من الكلمات تبدو محتملة إحصائياً من ضمن سياق معيّن. وحتى عندما لا يملك معلومات موثوقة، قد ينتج جواباً سلساً. ويمكن لعنوان تقرير مختلق أن يشبه عنواناً حقيقياً، كما يمكن لاقتباس زائف أن يبدو دقيقاً من الناحية القانونية، ولمرجع مُخترَع أن يحاكي شكل مرجع أصلي.

وتصبح هذه الطلاقة شديدة الخطورة داخل بنية هرمية. قد يفسّر الموظّفون العاملون تحت ضغط ما اللغة المصقولة باعتبارها دليلاً على الكفاءة. وقد يحظى المصدر الوارد في وثيقة حكومية بقدر أقلّ من التدقيق، لأنّ القارئ يفترض أنّ شخصاً آخر في مرحلة سابقة من العملية تحقّق منه. وحين يصل الادّعاء نفسه إلى مرحلة الاستئناف، قد يمنحه التكرار في حدّ ذاته مظهراً من مظاهر الصدقية.

ويصف الباحثون جانباً من هذا الميل بـ”التحيّز للأتمتة”، إذ قد يفضّل الناس توصية آلية على معلومات تناقضها، أو يمتنعون عن التحقّق من خطأ لأنّ مخرجات النظام تبدو موثوقة.[5] ولا تلغي الخبرة هذا الخطر، بل قد يكون المهنيون المشغولون أكثر عرضة إليه حين يبدو الجواب الآلي معقولاً ويوفّر الوقت.

لكن الآلة لا تصنع السلطة المؤسّسية بنفسها. البشر والمؤسّسات هم الذين يمنحون مخرجاتها تلك السلطة عندما يدمجونها في مسارات العمل، ويضعونها في قالب رسمي، ويسمحون لمتّخذي القرار اللاحقين بالاعتماد عليها. لذلك، قد يؤدّي وصف النتيجة بأنّها مجرّد “خطأ حاسوبي” إلى حجب المسؤولية. قد تولّد برمجية ما معلومة كاذبة، لكن المؤسّسة هي التي تقرّر ما إذا كانت ستخضع إلى تدقيق وإفصاح وتصحيح، وما إذا كان سيُسمَح لها بالتأثير في حياة إنسان.

ما الذي تكشفه تجارب وزارة الداخلية فعلياً؟

اختبرت وزارة الداخلية البريطانية في صورة معلنة أدوات مدعومة بالذكاء الاصطناعي في معالجة طلبات اللجوء. وتستخدم إحدى هذه الأدوات، وهي أداة تلخيص قضايا اللجوء، أو ACS، نموذجاً لغوياً كبيراً لتلخيص محاضر المقابلات. أمّا أداة البحث في سياسات اللجوء، أو APS، فتبحث عن المواد المتعلّقة بسياسات البلدان وتلخّصها. وتقول الوزارة إنّ هذه الأنظمة تساعد متّخذي القرار ولا تحلّ محلّهم.[6]

ووجد تقييم أجرته الوزارة لتجارب محدودة أُجرِيت بين أيار (مايو) وكانون الأول (ديسمبر) 2024 أنّ الأداتين قد تحقّقان وفراً ملحوظاً في الوقت. فقد راجع الموظّفون الذين استخدموا أداة ACS محاضر المقابلات بسرعة أكبر بمتوسط 23 دقيقة، أي بتوفير نسبته 32 في المئة من الوقت. كذلك وفّر مستخدمو أداة APS ما معدّله 37 دقيقة عند البحث عن معلومات تخصّ سياسات البلدان.[7] ولا يمكن اعتبار هذه المكاسب ضئيلة داخل منظومة تواجه عدداً كبيراً من الملفّات وتأخيرات طويلة.

لكن التقييم نفسه يتضمّن نتائج تستحق القدر عينه من الاهتمام. راجع متخصّصون تقنيون الملخّصات كلها التي أنتجتها أداة ACS قبل وصولها إلى متّخذي القرار المشاركين. وتبيّن أنّ تسعة في المئة منها غير دقيقة أو تنقصها معلومات، فاستُبعِدت من التجربة. ومن بين الملخّصات التي سُمِح باستخدامها، أفاد 23 في المئة من المستخدمين بأنّهم لم يكونوا واثقين تماماً بالمعلومات الواردة فيها. وقال بعض المشاركين أيضاً إنّ غياب الإحالات إلى المصادر قلّل من الوقت الذي أمكن توفيره، لأنّهم اضطروا مع ذلك إلى الرجوع إلى المواد الأصلية.[8]

وأظهر فحص محدود لعيّنة من القرارات نسباً متقاربة من القرارات التي اعتُبِرت مستوفية لمعايير الجودة في مجموعتَي التجربة والمقارنة. وبناء عليه، لم يرصد التقييم أثراً إيجابياً أو سلبياً ظاهراً في جودة القرارات خلال التجارب. ولا ينبغي تجاهل هذه النتيجة أو تحميلها أكثر ممّا تحتمل. لقد شملت التجارب عدداً محدوداً من الوحدات اختيرت جزئياً بناءً على استعدادها للمشاركة، وكانت الاستجابات للاستبيان في إحدى المراحل قليلة إلى درجة حالت دون استخدامها، كما خضع كلّ ملخّص إلى مراجعة تقنية قبل استعماله. وخلصت وزارة الداخلية نفسها إلى ضرورة إجراء مزيد من التقييم قبل أيّ تعميم كامل للأدوات.[9]

هذه النتائج تدعم موقفاً حذراً لا موقفاً دراماتيكياً. هي تُظهِر أنّ الذكاء الاصطناعي قد يوفّر الوقت، وأنّ كثيراً من مخرجاته يمكن أن يكون مفيداً. لكنها تظهر أيضاً أنّ نسبة لا يُستهَان بها من الملخّصات استوجبت الاستبعاد أو أثارت ثقة غير مكتملة. وفي قضايا اللجوء، يمكن لتاريخ محذوف، أو تناقض جرى تبسيطه، أو علاقة أُسِيء فهمها أن يغيّر طريقة تقييم الصدقية والخطر.

رقابة بشرية أم مصادقة بشرية؟

أصبح تعبير “إبقاء الإنسان من ضمن حلقة اتخاذ القرار” من العبارات المطمئنة الشائعة في النقاشات المتعلّقة بالحكومة المؤتمتة. غير أنّ وجود شخص ما في مرحلة من مراحل العملية لا يضمن رقابة فعلية. إذا كان المُراجِع يعمل تحت ضغط الوقت، أو لا يستطيع تحديد مصدر كلّ معلومة، أو يفترض أنّ عمليات التحقّق أُنجِزت في مرحلة سابقة، أو يُدفَع إلى تفضيل السرعة على التدقيق، فقد لا تعني الرقابة البشرية أكثر من مصادقة بشرية على النتيجة.

ويُلزِم التصميم الرسمي لأداة APS المستخدمين بالرجوع إلى النص الكامل لمذكّرة سياسات ومعلومات البلد أو طلب معلومات بلد المنشأ، بدلاً من الاعتماد حصراً على الجواب الذي ينتجه الذكاء الاصطناعي. وهذه ضمانة مهمة، لكن فاعليتها تتوقّف على وجود الوثيقة المشار إليها أصلاً، وعلى ربط النظام جوابه بالمقطع الصحيح، وعلى امتلاك الموظّفين ما يكفي من الوقت والتدريب لفحصها.

يرد تحذير وثيق الصلة بذلك في القرار الرسمي الصادر عن المحكمة العليا لشؤون الهجرة واللجوء في قضية UK and R (Munir) v Secretary of State for the Home Department (AI hallucinations; supervision; Hamid). وقد تناولت القضية مراجع قانونية زائفة قدّمها ممثّلون قانونيون، ولم تتناول استخدام وزارة الداخلية للذكاء الاصطناعي. لذلك لا ينبغي الخلط بينها وبين قضية المرأة المغربية. ومع ذلك، تقدّم المحكمة فيها منطقاً مفيداً. لقد قضت بأنّ المهنيين القانونيين يظلون مسؤولين عن ضمان الدقة الواقعية والقانونية، بما في ذلك العمل الذي يفوّضونه إلى موظّفين أقلّ خبرة. وحذّرت من أنّ أدوات الذكاء الاصطناعي غير المتخصّصة قد تنتج مراجع مقنعة لكنها وهمية. ولذلك ألزمت الممثّلين القانونيين بتأكيد أنّ المراجع التي يستشهدون بها موجودة، ويمكن العثور عليها، وتؤيّد الحجج التي تُستخدَم لإثباتها.[10]

ويمثّل ذلك نموذجاً عملياً للمساءلة. لم تكتفِ الاستجابة للأتمتة غير الموثوقة بالسؤال عمّا إذا كان إنسان قد تعامل مع الوثيقة في مرحلة ما، بل اشترطت التحقّق من مصادر قابلة للتحديد، وربطت المسؤولية بالشخص الذي يوقّع المستند. وينبغي أن يحكم مبدأ مماثل القرارات الإدارية: لا يجوز أن يستند استنتاج يضرّ بصاحبه إلى مصدر لم يعثر عليه الموظّف المسؤول ولم يتحقّق منه.

تلخيص حياة إنسان

لا تمثّل مقابلة اللجوء مجموعة محايدة من الوقائع. قد تتضمّن تردّداً وتكراراً وذاكرة مجزّأة وتناقضات ظاهرية. ويمكن للصدمة النفسية أن تؤثّر في التذكّر، كما يمكن للترجمة الشفهية أن تغيّر مواضع التشديد. وقد يكشف الناجي عن الإساءة تدريجياً، أو يجد صعوبة في وصف تجارب ترتبط لديه بالخجل أو الخطر.

ولا بدّ لأيّ ملخِّص من أن يختار ما يعتبره مهماً. هو يختصر التسلسل الزمني، ويزيل التكرار، ويرتّب رواية معقّدة من ضمن فئات. وقد تساعد هذه الوظائف الموظّف في التعامل مع محضر طويل، لكنها قد تمحو أيضاً السمات اللازمة لفهمه. فما يُصنَّف تناقضاً في جملة مختصرة قد يكون انعكاساً للخوف، أو لسوء الترجمة، أو للفارق بين إفصاح أولي ورواية لاحقة أكثر اكتمالاً.

في عام 2026، كلّفت منظمة Open Rights Group كلاً من روبن ألن، مستشار الملك، ودي ماسترز وجوشوا جاكسون بإعداد رأي قانوني تناول أدوات وزارة الداخلية. وجادل الرأي بأنّ أداتَي ACS وAPS لا تكتفيان بتنظيم المواد الموجودة، بل تنتجان نصاً جديداً ينتقي المعلومات ذات الصلة بالتقييم القانوني ويعيد صياغتها. وأثار الرأي مخاوف تتعلّق بالشفافية، والوصول إلى المخرجات، ودقة البيانات، وقدرة مقدّمي الطلبات على تصحيح الأخطاء.[11]

لذلك، يكون الاستخدام الأكثر أماناً للتلخيص إرشادياً لا استدلالياً. قد يساعد الملخّص الموظّف في العثور على الجزء ذي الصلة من المحضر، لكنه لا ينبغي أن يحلّ محلّ المحضر عند تقييم الصدقية أو التناقض أو الخطر. ويجب أن تظلّ كلّ معلومة جوهرية مرتبطة بمصدرها، وأن يتمكّن صاحب الطلب أو ممثّله من فحص أيّ رواية أنتجها الذكاء الاصطناعي والطعن فيها إذا استُخدِمت في التوصّل إلى القرار.

الحقّ في المعرفة والقدرة على الطعن

تبدأ المساءلة بالإخطار. لا يستطيع الشخص الاعتراض بفاعلية على خطأ مؤتمت إذا لم يكن يعلم أنّ نظاماً للذكاء الاصطناعي استُخدِم، أو ماذا أنتج، أو كيف أثّرت مخرجاته في القرار. ولا تكفي التصريحات العامة التي تقول إنّ التكنولوجيا لا تفعل سوى “مساعدة” الموظّفين.

وحين يساهم الذكاء الاصطناعي مساهمة جوهرية في قرار ما، ينبغي إبلاغ أصحاب الطلبات بالنظام الذي استُخدِم والغرض من استخدامه. كذلك ينبغي الاحتفاظ بالمخرجات ذات الصلة من ضمن سجلّ القضية. ويجب أن تتضمّن الملخّصات والإجابات المتعلّقة بالسياسات روابط قابلة للتحقّق تقود إلى مصادرها. وحين يكتشف صاحب الطلب خطأ، يجب أن تتوافر آلية عملية لتصحيحه قبل أن يتكرّر في المراحل اللاحقة.

تتّسق هذه الضمانات مع الاتجاه العام للمعايير الأوروبية. اتفاقية مجلس أوروبا الإطارية في شأن الذكاء الاصطناعي وحقوق الإنسان والديمقراطية وسيادة القانون تلزم أطرافها بمعالجة مسائل الشفافية والرقابة والمساءلة وسبل الانتصاف الفاعلة المرتبطة بأنظمة الذكاء الاصطناعي.[12] كذلك يصنّف قانون الذكاء الاصطناعي المطبق في بلدان الاتحاد الأوروبي استخدامات محدّدة لهذه التقنية في إدارة الهجرة واللجوء والحدود باعتبارها عالية المخاطر، مع مراعاة التعريفات والقيود الواردة في القانون.[13] ولا يشكّل قانون الاتحاد الأوروبي جزءاً من القانون الداخلي البريطاني، لكن هذا التصنيف يعكس مبدأ مهماً: تمسّ الأنظمة المستخدمة في قرارات الحماية والتنقّل والوضع القانوني تستحق تدقيقاً أشدّ من البرمجيات الإدارية العادية.

التكلفة الحقيقية لتوفير الوقت

يمكن تفهّم جاذبية الذكاء الاصطناعي بالنسبة إلى الحكومات. أنظمة اللجوء مكلفة وبطيئة وتتطلّب جهداً إدارياً كبيراً. وتبدو الأداة التي توفّر نصف ساعة في كلّ ملفّ قادرة على توفير آلاف الساعات عند تطبيقها على عدد كبير من القضايا. كذلك قد يستفيد مقدّمو الطلبات من تسريع الإجراءات بدلاً من انتظار الإجابة أشهراً أو سنوات.

لكن لا يمكن وضع الوقت الإداري والمخاطر الإنسانية في كفّتَين متساويتَين. تسجّل الحكومة الدقائق التي وفّرتها، بينما يتحمّل صاحب الطلب عواقب المعلومة الناقصة أو المصدر المختلق. وقد تفضي الأخطاء لاحقاً إلى طعون وإعادة جلسات وتكاليف قانونية ومزيد من التأخير، فتلتهم الوفر الأصلي. كذلك قد تضرّ بثقة الجمهور في قرارات تحتاج إلى الشرعية بقدر حاجتها إلى السرعة.

لا يعني ذلك وجوب استبعاد الذكاء الاصطناعي من إدارة شؤون اللجوء. إذا استُخدِم بعناية، يمكن أن يساعد الموظّفين في العثور على المعلومات وإدارة السجلّات الكبيرة وتقليص الأعمال المتكرّرة. لكن السؤال يتعلّق بالمكان الذي تُوضَع فيه الأداة، وبالسلطة التي تُمنَح إلى مخرجاتها. ثمة فارق بين تقنية تساعد متّخذ القرار في العثور على المصدر الأصلي، وأخرى يتحوّل ملخّصها بصمت إلى بديل من ذلك المصدر.

ويقتضي الحوار الحقيقي بين الحكم البشري والذكاء الاصطناعي تقسيماً واضحاً للعمل. يمكن للنظام أن يبحث وينظّم ويقترح، لكن على الموظّف المسؤول أن يتحقّق ويفسّر ويقرّر. ويجب أن يعرف الشخص المتأثّر ما يكفي للطعن في العملية، وأن تظلّ المؤسّسة مسؤولة عن النتيجة.

شروط الحوار الحقيقي

تنبثق من هذا التمييز ضمانات عدّة.

أولاً، يجب أن تكون كلّ معلومة مؤثّرة ولّدها الذكاء الاصطناعي قابلة للتتبّع وصولاً إلى مصدر متاح. وأيّ مرجع لا يمكن فتحه والتحقّق منه يجب ألا يُمنَح أيّ قيمة إثباتية.

ثانياً، يحتاج الموظّفون إلى الوقت والتدريب اللازمَين للتشكيك في المخرجات الآلية. لا يمكن أن تكون الرقابة فعلية إذا كانت أهداف الإنتاجية تكافئ القبول السريع وتعاقب التدقيق المتأنّي.

ثالثاً، يجب ألا تحلّ الملخّصات التي يولّدها الذكاء الاصطناعي محلّ الإفادة الأصلية عند تقييم الصدقية. يتمثّل دورها الصحيح في إرشاد القارئ للعودة إلى السجلّ الأصلي.

رابعاً، ينبغي إبلاغ أصحاب الطلبات حين يكون الذكاء الاصطناعي قد ساهم في صورة جوهرية في قضاياهم، كما ينبغي تمكينهم من الاطّلاع على أيّ مخرجات جرى الاعتماد عليها، مع مراعاة القيود المشروعة والمتناسبة.

خامساً، يجب على الجهات العامة الاحتفاظ بسجلّات تدقيق تبيّن النظام المستخدم، ونسخته، والمواد التي أُدخِلت إليه، والمخرجات التي أنتجها، وعمليات التحقّق التي أُجرِيت.

أخيراً، يجب أن تظلّ المسؤولية قابلة للتحديد. لا الشركة المورّدة ولا النموذج يستطيعان تحمّل واجب من واجبات القانون العام. ويظلّ الموظّف والمؤسّسة اللذان يعتمدان المخرجات مسؤولَين عن القرار.

الخاتمة

الجِنّي الإلكتروني ليس حاكماً مستقلاً. هو يعمل داخل أنظمة يصمّمها البشر، وتشتريها المؤسّسات، ويثق بها الموظّفون. وليس من الضروري أن تكون أخطر أخطائه هي الأكثر غرابة. قد تكمن الخطورة في الأخطاء المعقولة ظاهرياً: مصدر يبدو اسمه مألوفاً، أو ملخّص يسقط تفصيلاً حاسماً، أو فقرة واثقة تمرّ بين أيدي أشخاص عدّة لأنّ كلّاً منهم يفترض أنّ شخصاً آخر سبق أن تحقّق منها.

ولا تثبت قضية المرأة المغربية، كما وردت في التغطية المنشورة، أنّ الذكاء الاصطناعي أنتج المرجع الزائف. لكنها تكشف أمراً مؤسّسياً مقلقاً بما يكفي: دخل مصدر يبدو أنّه غير موجود في قرار رسمي، ثم عُومِل لاحقاً باعتباره مرجعاً موثوقاً. وتُظهِر الواقعة مدى سهولة تحوّل معلومة تقنية غير موثوقة إلى حقيقة رسمية تتحرّك الدولة على أساسها.

ولا ينحصر الخيار في رفض الذكاء الاصطناعي أو تسليم الحكم البشري إليه. بل تكمن المهمّة الأصعب في بناء علاقة تظلّ فيها التكنولوجيا مفيدة من دون أن تصبح بمنأى عن المساءلة. ويتطلّب الحوار الحقيقي أن تُظهِر الآلة مصادرها، وأن يمارس الموظّف حكماً مستقلاً، وأن يُسمَع صوت الشخص المتأثّر، وأن تتحمّل المؤسّسة المسؤولية. ومن دون هذه الشروط، لا يكتفي الجِنّي الإلكتروني بتنفيذ أمر الدولة، بل قد يعيد بهدوء كتابة الواقع الذي تتصرّف الدولة على أساسه.

 

الهوامش

1. Diane Taylor, “Home Office Used ‘AI Hallucinated’ Information to Refuse Asylum Claim, Judge Suggests,” The Guardian, 28 July 2026, https://www.theguardian.com/uk-news/2026/jul/28/home-office-used-ai-hallucinated-information-to-refuse-asylum-claim-judge-suggests.
2. Ibid. The official GOV.UK collection describes CPINs as guidance used by UK Visas and Immigration in asylum and human-rights decisions. Its update history records a Morocco CPIN page added in July 2017, while the current collection contains no Morocco page: UK Visas and Immigration, “Country Policy and Information Notes,” updated 5 June 2026, https://www.gov.uk/government/collections/country-policy-and-information-notes.
3. Taylor, “Home Office Used ‘AI Hallucinated’ Information.”
4. The present article relies on Taylor’s report for the facts and quoted judicial observations concerning this continuing case. Searches of the publicly accessible Upper Tribunal and National Archives databases did not identify a corresponding published decision as of 25 September 2026. No case name, appeal number or judge’s identity should therefore be inferred.
5. Lauren Kahn, Emelia S. Probasco and Ronnie Kinoshita, AI Safety and Automation Bias (Washington, DC: Center for Security and Emerging Technology, November 2024), https://doi.org/10.51593/20230057.
6. Home Office, “Evaluation of AI Trials in the Asylum Decision Making Process,” 29 April 2025, https://www.gov.uk/government/publications/evaluation-of-ai-trials-in-the-asylum-decision-making-process/evaluation-of-ai-trials-in-the-asylum-decision-making-process.
7. Ibid. See also UK Parliament, written question 121674, answered 24 March 2026, https://questions-statements.parliament.uk/written-questions/detail/2026-03-17/121674.
8. Home Office, “Evaluation of AI Trials.” The nine per cent figure refers to ACS summaries screened by technical specialists and removed before use. The 23 per cent figure refers to users’ confidence in summaries that proceeded into the pilot; it does not mean that 23 per cent were proven inaccurate.
9. Ibid. The Home Office’s conclusion that the tools did not appear to affect decision quality was based on limited dip-samples that found similar proportions of sustained decisions in the test and comparison groups.
10. UK and R (on the application of Munir) v Secretary of State for the Home Department (AI hallucinations; supervision; Hamid) [2026] UKUT 81 (IAC), especially paras 1-9 and 17-21, https://caselaw.nationalarchives.gov.uk/ukut/iac/2026/81. This is an official published decision, but it concerns the conduct of legal representatives and is not the reported decision in the Moroccan woman’s case.
11. Robin Allen KC, Dee Masters and Joshua Jackson, The Use of Artificial Intelligence Tools by the Government: A Case Study of the Home Office’s Asylum Practice, legal opinion commissioned by Open Rights Group, 16 March 2026, https://www.openrightsgroup.org/app/uploads/2026/03/Legal-Opinion-on-AI-tools-in-the-asylum-process.pdf.
12. Council of Europe, Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, CETS No. 225, opened for signature 5 September 2024, https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence.
13. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence, OJ L, 12 July 2024, art. 6 and annex III, section 7. The regulation’s designation is subject to its definitions, exclusions and the qualifications in Article 6. It is cited as a comparative regulatory standard, not as applicable UK domestic law.

المراجع

Allen, Robin, KC, Dee Masters and Joshua Jackson. The Use of Artificial Intelligence Tools by the Government: A Case Study of the Home Office’s Asylum Practice. Legal opinion commissioned by Open Rights Group. 16 March 2026. https://www.openrightsgroup.org/app/uploads/2026/03/Legal-Opinion-on-AI-tools-in-the-asylum-process.pdf.

Council of Europe. Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. CETS No. 225. Opened for signature 5 September 2024. https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence.

European Union. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence. Official Journal of the European Union, 12 July 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj.

Home Office. “Evaluation of AI Trials in the Asylum Decision Making Process.” 29 April 2025. https://www.gov.uk/government/publications/evaluation-of-ai-trials-in-the-asylum-decision-making-process/evaluation-of-ai-trials-in-the-asylum-decision-making-process.

Kahn, Lauren, Emelia S. Probasco and Ronnie Kinoshita. AI Safety and Automation Bias. Washington, DC: Center for Security and Emerging Technology, November 2024. https://doi.org/10.51593/20230057.

Taylor, Diane. “Home Office Used ‘AI Hallucinated’ Information to Refuse Asylum Claim, Judge Suggests.” The Guardian, 28 July 2026. https://www.theguardian.com/uk-news/2026/jul/28/home-office-used-ai-hallucinated-information-to-refuse-asylum-claim-judge-suggests.

UK Parliament. “Asylum: Artificial Intelligence.” Written question 121674, answered 24 March 2026. https://questions-statements.parliament.uk/written-questions/detail/2026-03-17/121674.

UK Visas and Immigration. “Country Policy and Information Notes.” Updated 5 June 2026. https://www.gov.uk/government/collections/country-policy-and-information-notes.

Upper Tribunal (Immigration and Asylum Chamber). UK and R (on the application of Munir) v Secretary of State for the Home Department (AI hallucinations; supervision; Hamid) [2026] UKUT 81 (IAC). https://caselaw.nationalarchives.gov.uk/ukut/iac/2026/81.

---------------------------------------------------------------------------------------------- *Material should not be published in another periodical before at least one year has elapsed since publication in Whispering Dialogue. *أن لا يكون النص قد تم نشره في أي صحيفة أو موقع أليكتروني على الأقل (لمدة سنة) من تاريخ النشر. *All content © 2021 Whispering Dialogue or respective authors and publishers, and may not be used elsewhere without written permission. جميع الحقوق محفوظة للناشر الرسمي لدورية (هَمْس الحِوار) Whispering Dialogue ولا يجوز إعادة النشر في أيّة دورية أخرى دون أخذ الإذن من الناشر مع الشكر الجزيل