„Prompt-Verkehrsschilder” können autonome Fahrzeuge vom Weg abbringen (futurezone)

KI-Systeme bremsen nicht wie vorgesehen, wenn sie bestimmte Anweisungen als visuellen Input bekommen. Bei einer „Prompt Injection“-Attacke auf ein LLM werden böswillige Anweisungen in einen unverdächtig wirkenden Prompt versteckt. So könnte man