Fair Work Commission осудил «совершенно неверные» юридические советы ИИ, а число дел с ИИ-истцами растет
Fair Work Commission condemns 'plain wrong' AI legal advice
Уволенный сотрудник ALDI, использовавший ChatGPT в качестве «квази-юридического советника» для обжалования увольнения, был оштрафован Fair Work Commission на $1,230 за необоснованные действия. Комиссия назвала его ИИ-советы «совершенно неверными» и предупредила о росте числа дел с участием ИИ. В то же время преподаватель Macquarie University Грегори Бейкер успешно оспорил законы о временной занятости с помощью команды ИИ-агентов, став первым в своем роде. Комиссия вводит новые правила, обязывающие раскрывать использование ИИ с октября 2026 года.
«Если бы г-н Хан внимательно прочитал свои собственные ответы, сгенерированные ИИ… он бы понял, что его дело обречено».
- cjs_ac
> Уволенный сотрудник ALDI, которого Fair Work Commission осудила за использование «совершенно неверных» юридических советов ИИ в его неудачной попытке отменить увольнение, теперь планирует использовать «два или три» разных ИИ-агента, чтобы помочь себе с апелляцией на это решение.
> Саднан Хан был обязан выплатить 1230 долларов в счет судебных издержек супермаркетного гиганта после знакового решения Fair Work Commission, которая установила, что он использовал ИИ в качестве «квази-юридического советника» для оспаривания своего увольнения, несмотря на неоднократные предупреждения о том, что его дело «не имеет существенных перспектив на успех».
> «Я предпринял крайне редкий шаг, обязав его оплатить часть судебных издержек работодателя, потому что его неразумное поведение привело к тому, что его бывший работодатель понес эти расходы без необходимости», — заявил заместитель председателя Fair Work Commission Майкл Истон в решении трибунала на прошлой неделе.
Статья сбалансирована; в ней также приводится дело преподавателя компьютерных наук из Университета Маккуори, который успешно оспорил обращение университета с ним с помощью ИИ. (За последние десять лет или около того Mac Uni очень привязался к идее, что минимальной зарплаты достаточно для академического персонала.)
Так что это та же история, которую мы слышим уже больше года: LLM полезны только если игнорировать всю ту ерунду, где они говорят, как всё замечательно, и уметь извлекать и интерпретировать те части, где они говорят что-то по существу, и действительно выполнять работу по определению того, не врут ли они вам.
- simonw
Я нашел официальный PDF-документ с решением по делу Хана: https://fwcgovau.sharepoint.com/teams/group252c29c/_layouts/...
Ключевой раздел:
> Через два дня после подачи иска Ханом сотрудники Fair Work Commission отправили Хану электронное письмо с уведомлением о том, что Комиссия может не иметь полномочий рассматривать его дело, поскольку он не отработал минимальный период занятости. [...]
> Утром в пятницу 31 июля 2026 года я нашел время написать Хану и объяснить ему простым языком, почему его дело вряд ли будет успешным. Хану было предложено отозвать свое заявление, и его предупредили, что могут быть судебные издержки, если он не отзовет его. [...]
> Хан ответил электронным письмом тем же утром. Сгенерированное ИИ письмо Хана снова содержало неправильную дату окончания и повторяло те же не относящиеся к делу аргументы, созданные ИИ. Письмо Хана вообще не касалось вопросов, поднятых в более раннем письме Комиссии.
- dgellow
> Исследование, заказанное трудовым арбитром, показывает, что количество его дел недавно выросло на 40 процентов, частично из-за тяжущихся сторон, использующих ИИ.
Недавняя мысль о внедрении ИИ: это настолько массовая несбалансированная ставка. Мы прямо сейчас испытываем негативные аспекты ИИ, мы платим за это. Ради шанса, что, возможно, какая-то гипотетическая, научно-фантастическая технология появится в будущем. То есть мы знаем, что всегда будем страдать от проигрышной стороны ставки, и понятия не имеем, выиграем ли мы, или даже как это будет выглядеть — выиграть.
В этом примере мы видим, как комиссия находится под давлением, что мы наблюдаем повсеместно, а выгоды пока заключаются в том, что программное обеспечение и электронные письма пишутся быстрее, и, возможно, что-то еще появится в какой-то момент в будущем (что, как мы также знаем, будет иметь свой собственный набор внешних эффектов).
Безумие, что такая маленькая группа может решить сыграть в эту азартную игру за остальное общество, во всем мире.
- cube00
> Трибунал признал, что ИИ улучшает доступ к правосудию для заявителей с реальными, обоснованными требованиями, «которые в противном случае могли бы быть отпугнуты».
Хорошо, что трибунал признает, что не все мы можем позволить себе расходы, которые могут возникнуть при первоначальных консультациях с юристом. Хотя есть pro bono юристы, они должны быть уверены, что берутся за дела с наилучшими перспективами на успех, чтобы самим не разориться.
> «Большинство членов сообщества сейчас знают об этом свойстве ИИ — его склонности к подхалимажу … и оно может на самом деле побуждать людей верить, что в их иске есть основания, хотя на самом деле это может быть не так».
Будет интересно посмотреть, как поставщики ИИ будут балансировать между необходимостью делать модели достаточно увлекательными, чтобы поддерживать поток токенов, но не настолько увлекательными, чтобы они давали плохие советы, поощряя продолжение разговоров.
- solresol
Второе дело, упомянутое в статье, интересно тем, что до него ни одно дело о выборе сотрудника не доходило до рассмотрения по существу.
Таким образом, это может быть первый пример того, как ИИ выиграл дело, которое устанавливает какой-то прецедент.
По крайней мере, это показывает, что ИИ может составить связные юридические аргументы, даже когда нет близких прецедентов или судебной практики, на которые он мог бы ссылаться. Это было то, во что многие юристы не верили, что ИИ сможет сделать.