Un tribunal dictamina que la Cuarta Enmienda no permite que la IA determine la causa probable
Court: 4th Amendment Disallows Use Of AI-Generated 'Probable Cause'

El detective Ryan Kilmer, de la policía de Florence (Kentucky), usó únicamente un reconocimiento facial con IA para identificar a Alain Osorio como sospechoso de un cheque sin fondos, sin corroborar nada más. Osorio, que vivía en Nebraska, fue arrestado y extraditado; los cargos se retiraron cuando demostró que trabajaba allí en ese momento. El tribunal dictaminó que la Cuarta Enmienda prohíbe arrestar a alguien basándose solo en una conclusión de la IA sin corroborar, y que ningún detective razonable podría pensar lo contrario.
La Cuarta Enmienda no permite que una persona sea arrestada basándose en nada más que una conclusión no corroborada de la IA de que esa persona ha cometido un delito. Y ningún detective razonable en la posición del demandado podría concluir lo contrario.
- jp57
Sé que viene del titular original, pero siento que "no cubre" es una redacción confusa. El artículo quiere decir que la Cuarta Enmienda prohíbe el uso de causa probable generada por IA.
Una cita del tribunal (recitada del artículo):
"La Cuarta Enmienda de la Constitución de los Estados Unidos no permite que un detective delegue en la IA la tarea de evaluar la causa probable. En otras palabras, la Cuarta Enmienda no permite que una persona sea arrestada basándose en nada más que una conclusión no corroborada por la IA de que la persona en cuestión ha cometido un delito. Y ningún detective razonable en la posición del acusado podría concluir lo contrario."
Usar "cubrir" aquí me parece extraño, ya que la Cuarta Enmienda prohíbe la acción del gobierno, interpretaría las acciones no "cubiertas" como no prohibidas y por lo tanto permitidas.
- jawns
La forma correcta de interpretar este fallo es que una declaración jurada de causa probable necesita ofrecer evidencia de que una persona ha cometido un delito, y la salida de un modelo no es evidencia; es más bien una herramienta de investigación.
Las fotografías, las declaraciones de testigos, las observaciones directas, los objetos físicos encontrados en la escena son todos evidencia: ayudan a responder preguntas como "¿Estaba esta persona presente en la escena?" o "¿Realizó esta persona las acciones que se alega que realizó?"
Un modelo de aprendizaje automático, incluso uno muy sofisticado, es en esencia una máquina de probabilidades. Puede ayudarte a encontrar dos fotografías que parecen muy similares, pero no establece de forma independiente que las personas en esas fotografías sean, de hecho, la misma persona. De igual manera, un modelo de IA puede ayudarte a determinar la similitud de patrones de habla o estilos de escritura, pero esas puntuaciones de similitud en realidad no te dicen si una muestra de audio o de escritura provino de la misma persona.
La persona que presenta la declaración jurada está avalando la razonabilidad de los hechos que presenta, por lo que cualquier evidencia probabilística necesita una decisión humana.
La forma incorrecta de interpretar este fallo es que la IA nunca puede usarse como herramienta de investigación para establecer causa probable. Un detective ciertamente puede usar un algoritmo que busque en una base de datos de identificación facial, o en una base de datos de huellas dactilares, para ayudar a identificar posibles sospechosos. Pero luego necesita hacer algo más para determinar si la salida del modelo realmente coincide con la fac […]