{"id":4027,"date":"2020-09-09T23:34:28","date_gmt":"2020-09-09T21:34:28","guid":{"rendered":"https:\/\/www.d-kart.de\/?p=4027"},"modified":"2020-09-10T01:53:14","modified_gmt":"2020-09-09T23:53:14","slug":"conference-debriefing-21-regulierung-fuer-algorithmen","status":"publish","type":"post","link":"https:\/\/www.d-kart.de\/en\/blog\/2020\/09\/09\/conference-debriefing-21-regulierung-fuer-algorithmen\/","title":{"rendered":"CONFERENCE DEBRIEFING (21): REGULIERUNG F\u00dcR ALGORITHMEN"},"content":{"rendered":"\n<p><em>Die Wissenschaftliche Vereinigung f\u00fcr das gesamte Regulierungsrecht hat sich in ihrem 5. Symposium dem Thema Regulierung von Algorithmen gewidmet. Es handelt sich dabei um eine Thematik die \u2013 nicht nur im Kartellrecht \u2013 seit einigen Jahren hei\u00df diskutiert wird. Der kleine, feine Zusammenschluss von Professorinnen und Professoren aus dem Zivilrecht und dem \u00d6ffentlichen Recht tagt \u00fcblicherweise hinter verschlossenen T\u00fcren. Aber im Corona-Jahr ist alles anders: In diesem Jahr konnte sich jeder per Zoom einw\u00e4hlen. Adrian Deuschle hat\u2019s getan und berichtet aus dem Home Office.<\/em><\/p>\n\n\n\n<p><strong>Name der Veranstaltung: <\/strong>Jahrestagung der <a href=\"http:\/\/www.regulierungsrecht.eu\/\" target=\"_blank\" rel=\"noreferrer noopener\">Wissenschaftlichen Vereinigung f\u00fcr das gesamte Regulierungsrecht<\/a><\/p>\n\n\n\n<p><strong>Thema: <\/strong>Ob und Wie der Regulierung von Algorithmen in verschiedenen Rechtsgebieten<\/p>\n\n\n\n<p><strong>Zeit und Ort: <\/strong>7.-8. September 2020, weltweit<\/p>\n\n\n\n<p><strong>Gastgeber: <\/strong>Der Lehrstuhl von Prof. Dr. Daniel Zimmer, Universit\u00e4t Bonn.<\/p>\n\n\n\n<p><strong>Publikum: <\/strong>Ca. 140 Teilnehmer \u00fcberwiegend aus Deutschland, \u00d6sterreich und der Schweiz.<\/p>\n\n\n\n<p><strong>Regulierung f\u00fcr Algorithmen? Brauchen wir das \u00fcberhaupt?<\/strong><\/p>\n\n\n\n<p>Dieser Frage widmete sich Prof. Dr. Markus Gabriel von der Universit\u00e4t Bonn (aktuelles Buch: \u201e<a href=\"https:\/\/www.ullstein-buchverlage.de\/nc\/buch\/details\/moralischer-fortschritt-in-dunklen-zeiten-9783550081941.html\">Moralischer Fortschritt in dunklen Zeiten<\/a>\u201c) im ersten Panel. Als Professor der Philosophie befasste er sich in seinem Vortrag mit einer Ethik f\u00fcr das Digitale. Die Ethik f\u00fcrs Digitale ist eine Teildisziplin der Philosophie und eine weitere Subdisziplin bildet die Technikethik. Der Begriff der Regulierung hat dabei aus philosophischer Perspektive verschiedene Dimensionen. Einerseits kann eine Regulierung moralisch unerheblich sein, aber juristisch normiert, so zum Beispiel beim Rechtsfahrgebot. Eine Regulierung kann gar nicht normiert sein, sich aber ergeben, beispielsweise wie ich vor meinem Bildschirm sitze. Eine Regulierung kann aber auch normiert sein und sich aus moralischen Gr\u00fcnden als Motiv ergeben. Ablehnend steht dem nur der Ethiknihilismus gegen\u00fcber \u2013 der aber laut Prof. Gabriel nicht mehr ernsthaft vertreten wird. Algorithmen und k\u00fcnstliche Intelligenz (KI) sind ein Teil der Digitalisierung. F\u00fcr das Digitale gibt es aber bisher noch keine Ethik \u2013 wer Platon, Kant und Sokrates liest wird \u00fcber diese neuen Ph\u00e4nomene keine Ausf\u00fchrungen finden. Eine Regulierung von Algorithmen befindet sich immer in einem Spannungsfeld. Einerseits sind zu hohe regulatorische Anforderungen an KI problematisch, weil sie dann anf\u00e4llig f\u00fcr falsche, in der Regulierung angelegte, Fehler ist. Andererseits kann auch die absolute Effizienz von Algorithmen und KI im Vergleich zum Menschen zu Problemen f\u00fchren. Als Beispiel werden von Prof. Gabriel Plattformen in Form von sozialen Netzwerken genannt: hier f\u00fchre der Gesch\u00e4ftskern \u2013 die Datenanalyse \u2013 zwangsl\u00e4ufig zu einer Erosion des demokratischen Systems. Dies liege daran, dass mit einem Dissens bzw. einem fehlenden Dissensmanagement Geld verdient wird. Auf den Plattformen gibt es keinen Streitschlichtungsmechanismus, der bei einem Dissens f\u00fcr einen Ausgleich zwischen den Parteien sorgt. Auf eine Hate Speech folgt in der Regel kein Gerichtsverfahren, sondern eine Best\u00e4tigung der Ansichten in den Filterblasen und Echokammern. Eine Regulierung k\u00f6nnte hier die Einf\u00fchrung eines Dissensmanagements umfassen. Allerdings darf ein Intermedi\u00e4r bei der Regulierung nicht die Aufgabe des Rechtsstaats \u00fcbernehmen \u2013 eine Kontrolle durch rechtsstaatliche Institutionen muss weiterhin gew\u00e4hrleistet sein.<\/p>\n\n\n\n<p><strong>Genug von der Philosophie. Welche Auswirkungen haben Algorithmen auf unsere Wohlfahrt?<\/strong><\/p>\n\n\n\n<p>Der von den Lesern dieses Blogs sehr gesch\u00e4tzte Prof. Dr. Justus Haucap zeigte die Wohlfahrtswirkungen des Einsatzes von Algorithmen auf. Bei der Produkt- und Prozessverbesserung haben Algorithmen laut Haucap in erster Linie einen wohlfahrtsf\u00f6rdernden Effekt. Dies zeige sich zum Beispiel durch Smart Farming, Spotify, Netflix und Matching Plattformen, die von vielen Menschen gesch\u00e4tzt und intensiv genutzt werden. In zweiter Linie k\u00f6nne es durch die selbstverst\u00e4rkenden Effekte bei der Datensammlung (Netzwerkeffekte) zu einer Vermachtung und Missbrauch kommen. Diese Situationen k\u00f6nnten im Kartellrecht gut durch eine Einzelfall-Analyse erfasst werden. W\u00fcnschenswert w\u00e4re aus Sicht von Haucap aber ein Datenzugangsanspruch, der weniger hohe Anforderungen als die \u201eessential facility doctrine\u201c verlangt, aber nicht beliebig ist. Auch bei der Steuerung von Produkten durch personalisierte Werbung\/Ansprache ergeben sich zun\u00e4chst wohlfahrtsmehrende Effekte, da Nutzern Angebote gemacht werden, die diese tats\u00e4chlich gut finden (die Unpopularit\u00e4t dieser Feststellung war dem Referenten bewusst). Andererseits k\u00f6nnten dadurch naive Nutzer ausgenutzt werden und es finde eine Professionalisierung von Haust\u00fcrgesch\u00e4ften statt.<\/p>\n\n\n\n<p><strong>Die digitale Dr\u00fcckerkolonne sozusagen\u2026 und dann auch noch mit personalisierten Preisen!<\/strong><\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"535\" height=\"446\" src=\"https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Juridicum-Bonn.jpg\" alt=\"\" class=\"wp-image-4041\" srcset=\"https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Juridicum-Bonn.jpg 535w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Juridicum-Bonn-300x250.jpg 300w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Juridicum-Bonn-440x367.jpg 440w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Juridicum-Bonn-324x270.jpg 324w\" sizes=\"auto, (max-width: 535px) 100vw, 535px\" \/><figcaption>Eigentlich fand die Tagung in Bonn statt, aber in diesem Jahr: Zoom statt Zug.<\/figcaption><\/figure>\n\n\n\n<p>F\u00fcr eine Preisdifferenzierung gibt es bisher wenig Evidenz. Bei einer personalisierten Preissetzung k\u00f6nnte der Wettbewerb seine Schutzfunktion verlieren, da tr\u00e4ge Verbraucher nicht mehr vor Schn\u00e4ppchenj\u00e4gern gesch\u00fctzt werden. Dies sei aber nicht unbedingt wohlfahrtsmindernd, da die Komsumentenrenten nur anders verteilt w\u00fcrden. Zudem k\u00f6nne sich diese Preissetzung positiv auf das Verhalten auswirken, beispielweise bei Autoversicherungen, die f\u00fcr unfallfreie Fahrer g\u00fcnstiger angeboten werden. Weitgehende Evidenz gebe es aber f\u00fcr eine Zunahme von dynamischen Preisen, die nicht nur online stark zunehmen. Diese Form der Preissetzung k\u00f6nne wohlfahrtsmindern sein, da dynamische Preise Verbraucher \u201em\u00fcde\u201c machten.<\/p>\n\n\n\n<p><strong>Ging es auch um Algorithmen und Kartelle?<\/strong> <\/p>\n\n\n\n<p>Ja. Dazu wurden drei Szenarien dargestellt, in denen Algorithmen eine mindernde Wirkung auf die Wohlfahrt haben. Erstens wenn Kartelle effizienter durch Algorithmen umgesetzt werden \u2013 wie im Posterkartell-Fall in den <a href=\"https:\/\/www.justice.gov\/atr\/case-document\/file\/628891\/download\">USA<\/a> und <a href=\"https:\/\/www.gov.uk\/cma-cases\/online-sales-of-discretionary-consumer-products\">GB<\/a>. Zweitens wenn eine Plattform als Hub die Preise f\u00fcr die Spokes setzt wie im <a href=\"http:\/\/curia.europa.eu\/juris\/document\/document.jsf;jsessionid=87AA65ABC91859F75910AE82598BE8A9?text=&amp;docid=173680&amp;pageIndex=0&amp;doclang=DE&amp;mode=lst&amp;dir=&amp;occ=first&amp;part=1&amp;cid=1043620\">Eturas Fall<\/a>. Drittens wenn die Algorithmen sich autonom koordinieren ohne menschliche Abstimmung.<\/p>\n\n\n\n<p><strong>Und ohne Kartelle?<\/strong><\/p>\n\n\n\n<p>Die Marktbeherrscher nutzen nat\u00fcrlich auch Algorithmen. Haucap warnte vor der Darstellung von verzerrten Informationen (Marktmanipulationen). Die Plattformen haben hier einen Anreiz, ihre Algorithmen nicht neutral einzusetzen, sondern beispielweise eigene Angebote zu bevorzugen. Dieser Anreiz besteht unabh\u00e4ngig von Marktmacht, aber potenziert sich bei marktm\u00e4chtigen Unternehmen. Hier besteht ein Eingriffsbedarf, der vom Gesetzgeber in der 10. GWB Novelle mit \u00a7 19a GWB-RefE adressiert wird.<\/p>\n\n\n\n<p><strong>So etwas habe ich hier auf D\u2019Kart schon einmal gelesen. Man kommt sich ja langsam vor, wie in einer Echokammer hier\u2026<\/strong><\/p>\n\n\n\n<p>Tja. Laut Professor J\u00f6rn L\u00fcdemann von der Universit\u00e4t Rostock haben sich die anf\u00e4nglichen Verhei\u00dfungen der freien Welt im Internet in Ern\u00fcchterung umgewandelt, Bedrohungen der Demokratie eingeschlossen. Allerdings gibt es bisher keine Evidenz f\u00fcr die Verst\u00e4rkung von Filterblasen und Echokammern durch Algorithmen. Was nachgewiesen werden konnte: Radikale suchen eher nach homogenen Informationen in Echokammern. Eine echte Gefahrenlage durch Algorithmen ist aber bisher nicht verifiziert, weswegen nichts f\u00fcr eine Regulierung, die \u00fcber den aktuellen Status hinausgeht, spricht.<\/p>\n\n\n\n<p>Abzulehnen sei laut L\u00fcdemann in jedem Fall eine positive Regulierung zur Vielfaltssicherung. Dies w\u00fcrde eine staatliche Bewertung von Informationen voraussetzen, die einen erheblichen Eingriff in die Informationsfreiheit darstellt: Man stelle sich nur vor, in der analogen Welt bek\u00e4me jeder Taz-Leser bzw. jede Taz-Leserin zus\u00e4tzlich Springers \u201eWelt\u201c in den Briefkasten geworfen. In seinem Kommentar sprach sich Professor J\u00fcrgen K\u00fchling von der Uni Regensburg f\u00fcr einen Mix aus hoheitlicher und unternehmerischer Verantwortung aus. Die Novellierung des Rundfunkstaatsvertrags zum Medienstaatsvertrag sei dabei ein \u201esinnvoller Mittelweg zwischen Regulierungsatheismus und Regulierungsutopie\u201c. Hervorgehoben wurde vor allem das Transparenzgebot aus \u00a7 93 MStV und das Diskriminierungsverbot gem. \u00a7 94 MStV.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"683\" height=\"1024\" src=\"https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-683x1024.jpg\" alt=\"\" class=\"wp-image-4029\" srcset=\"https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-683x1024.jpg 683w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-200x300.jpg 200w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-768x1152.jpg 768w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-600x900.jpg 600w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-1024x1536.jpg 1024w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-1366x2048.jpg 1366w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-440x660.jpg 440w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-180x270.jpg 180w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/Vielfalt-scaled.jpg 1707w\" sizes=\"auto, (max-width: 683px) 100vw, 683px\" \/><figcaption>Vielfalt in der analogen Welt<\/figcaption><\/figure>\n\n\n\n<p><strong>Was k\u00f6nnen Transparenzanforderungen f\u00fcr Algorithmen leisten?<\/strong><\/p>\n\n\n\n<p>Professorin Miriam Buiten von Universit\u00e4t St. Gallen sprach \u00fcber Transparenzpflichten von Algorithmen und das Dauerthema Haftung f\u00fcr algorithmische Handlungen. Auf europ\u00e4ischer Ebene gibt es hierzu in der Mitteilung \u201e<a href=\"https:\/\/ec.europa.eu\/transparency\/regdoc\/rep\/1\/2018\/DE\/COM-2018-237-F1-DE-MAIN-PART-1.PDF\">KI f\u00fcr Europa<\/a>\u201c der Kommission von 2018 und dem <a href=\"https:\/\/ec.europa.eu\/info\/sites\/info\/files\/commission-white-paper-artificial-intelligence-feb2020_de.pdf\">Wei\u00dfbuch zur k\u00fcnstlichen Intelligenz<\/a> (2020) erste Regulierungsans\u00e4tze. Es bleibt allerdings fraglich, ob erh\u00f6hte Transparenzanforderungen in Bezug auf die Haftungsfrage einen wesentlichen Vorteil darstellen. Anhand von drei konkreten Beispielen illustrierte Buiten die Probleme der Haftung im Falle eines automatischen Rasenm\u00e4hers, einem diskriminierenden Bewerbungsalgorithmus und einer smarten Alarmanlage. Ihr Fazit: Transparenz ist kein Allheilmittel und kann die Haftungsfrage nicht unbedingt vereinfachen.<\/p>\n\n\n\n<p><strong>Welche Standards m\u00fcssen bei der Entwicklung von KI beachtet werden?<\/strong><\/p>\n\n\n\n<p>Mit Professor Stefan Wrobel \u00e4u\u00dferte sich der Leiter des Fraunhofer-Instituts IAIS und Professor f\u00fcr Informatik von der Universit\u00e4t Bonn zur Zertifizierung von KI und den Kriterien der Beurteilung von Algorithmen. Bei KI handelt es sich um eine Black Box, die anders agiert als der Mensch. Sch\u00f6nes Beispiel: Eine Medizin-KI konnte eine Kardiomegalie (eine krankhafte Herzvergr\u00f6\u00dferung) zwar richtig diagnostizieren, aber aus den falschen Gr\u00fcnden. Die KI orientierte sich zu stark an einem auf dem R\u00f6ntgenbild eingeblendeten Schriftzuges eines portablen R\u00f6ntgenger\u00e4ts. Dieses Ger\u00e4t wird insbesondere bei schwer kranken Menschen eingesetzt, die nicht zu einem station\u00e4ren Ger\u00e4t transportiert werden k\u00f6nnen. Daraus zog die KI den Schluss auf eine Erkrankung des Patienten. Zutreffendes Ergebnis, falscher L\u00f6sungsweg \u2013 das gibt, wie aus der Jura-Klausur bekannt, wenig Punkte. Aus diesem Grund seien eine Zertifizierung von KI und einheitliche Standards wichtig. Die europ\u00e4ische Kommission hat dazu <a href=\"https:\/\/ec.europa.eu\/digital-single-market\/en\/news\/ethics-guidelines-trustworthy-ai\">Ethikleitlinien f\u00fcr eine vertrauensw\u00fcrdige KI<\/a> ver\u00f6ffentlicht. Ein Pr\u00fcfkatalog zur Zertifizierung von KI ist der \u201e<a href=\"https:\/\/www.ki.nrw\/zertifizierung\/\">Bonner Katalog<\/a>\u201c, darin sind Kriterien wie Ethik\/Recht, Transparenz und Datenschutz enthalten. Auf lange Sicht sollen die Rahmenbedingungen nicht nur durch kluge Menschen vorgegeben werden, sondern vom Algorithmus selbst integriert werden. Ob dies gelingen kann, ist laut Wrobel noch offen.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"500\" height=\"254\" src=\"https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/EU-AI-Strategy.jpeg\" alt=\"\" class=\"wp-image-4042\" srcset=\"https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/EU-AI-Strategy.jpeg 500w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/EU-AI-Strategy-300x152.jpeg 300w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/EU-AI-Strategy-440x224.jpeg 440w\" sizes=\"auto, (max-width: 500px) 100vw, 500px\" \/><figcaption>Die EU ist dran, na klar!<\/figcaption><\/figure>\n\n\n\n<p><strong>Ganz sch\u00f6n viele Vortr\u00e4ge aus der Wissenschaft. Sind die Praktiker auch zu Wort gekommen?<\/strong> <\/p>\n\n\n\n<p>\u00c4hm, zumindest ein Politiker. Am Ende des ersten Abends hielt Prof. Ulrich Kelber \u2013 seines Zeichens Bundesbeauftragter f\u00fcr Datenschutz und Informationsfreiheit \u2013 eine Keynote Speech. Das war so eine Art Dinner Speech, w\u00e4hrend man vor dem Bildschirm seine Nudeln mit Pesto l\u00f6ffelte. Aus der Perspektive des Datenschutzes sind Algorithmen bisher nicht sehr stark reguliert. Auch die DSGVO stelle keinen wesentlichen Fortschritt dar. Die dort vorgesehenen Transparenzpflichten blieben weitgehend wirkungslos. Werde beispielsweise ein Kredit aufgrund der Bewertung durch einen Algorithmus nicht gew\u00e4hrt, bekomme man keine Auskunft \u00fcber den Grund der Ablehnung. Als Mitglied der Datenethikkommission bevorzugt Kelber den Begriff \u201ealgorithmische Systeme\u201c, um die schwierige Abgrenzung, ab wann es sich um KI handelt, zu umgehen. In vielen Bereichen biete sich eine ex ante Regulierung algorithmischer Systeme an. So k\u00f6nnten beispielsweise dynamische Preise im Handel \u00fcber eine Zertifizierungsstelle reguliert werden. Beim Hochfrequenzhandel k\u00f6nnte sich Europa durch eine smarte Regulierung einen Wettbewerbsvorteil verschaffen. Die aktuellen Entwicklungen zu einer europ\u00e4ischen Dateninfrastruktur mit dem <a href=\"https:\/\/www.bmwi.de\/Redaktion\/DE\/Publikationen\/Digitale-Welt\/das-projekt-gaia-x.pdf?__blob=publicationFile&amp;v=24\">GAIA-X<\/a> Projekt k\u00f6nnten ein wichtiger Baustein f\u00fcr eine europ\u00e4ische Regulierung sein.<\/p>\n\n\n\n<p><strong>Apropos Hochfrequenzhandel: M\u00fcssten die Algorithmen hier nicht auch reguliert werden?<\/strong><\/p>\n\n\n\n<p>Ausgangspunkt f\u00fcr die Bedenken \u00fcber den Hochfrequenzhandel ist der Flash Crash vom 6.5.2010. Der Dow Jones hatte hier teilweise \u00fcber 9 Prozent nachgegeben und es kam zu erheblichen Preisanomalit\u00e4ten. Danach stabilisierte sich der Kurs wieder, aber auf einem niedrigeren Niveau als vor dem Crash. Laut Professor Matthias Lehmann, einst Bonn, jetzt Uni Wien, ist die Ursache f\u00fcr den Flash Crash aber weiterhin ungekl\u00e4rt. Im <a href=\"https:\/\/www.sec.gov\/news\/studies\/2010\/marketevents-report.pdf\">Report der SEC\/CFTC<\/a> von 2010 wurde die Software der Firma Waddell &amp; Reed f\u00fcr den Crash verantwortlich gemacht. Ein Fehler im Algorithmus im Zusammenspiel mit anderen Hochfrequenzh\u00e4ndlern soll den Crash verursacht haben. Kurz darauf vermeldete die CME Group in einer <a href=\"http:\/\/investor.cmegroup.com\/news-releases\/news-release-details\/cme-group-statement-joint-cftcsec-report-regarding-events-may-6?ReleaseID=513388\">Pressemitteilung<\/a>, dass Waddell &amp; Reed im Einklang mit der Marktpraxis gehandelt haben soll und dem Unternehmen kein Vorwurf gemacht werden kann. Im Folgenden wurde der 32-j\u00e4hrige Londoner Trader Navinder Singh Sarao als Schuldiger identifiziert. Er hat mit Hilfe eines automatisierten Programmes \u00fcber 200 Millionen Order abgegeben, die zu einem gro\u00dfen Teil widerrufen oder ge\u00e4ndert wurden, um dann zu einem niedrigeren Preis zu kaufen. Diese Technik wird \u201espoofing\u201c genannt. Im Januar 2020 wurde er an die USA ausgeliefert und lediglich zu einem Jahr Hausarrest verurteilt. Wenn es einer Einzelperson gelingen kann, einen solchen Crash zu verursachen, muss, so Lehmann, etwas mit der Marktstruktur auf den Finanzm\u00e4rkten nicht stimmen. Ausf\u00fchrliche Informationen zu den verschiedenen Praktiken der Hochfrequenzh\u00e4ndler bietet das Buch <a href=\"https:\/\/www.campus.de\/buecher-campus-verlag\/wirtschaft-gesellschaft\/wirtschaft\/flash_boys-8246.html\">Flash Boys<\/a> von Michael Lewis. Ein Regulierungsansatz sollte hier f\u00fcr Transparenz und Fairness sorgen und bestimmte Sicherheitsma\u00dfnahmen in Form von Erlaubnis- bzw. Organisationsanforderungen vorsehen. Eine enge Zusammenarbeit zwischen Finanzaufsicht und Beh\u00f6rden ist w\u00fcnschenswert. Fiskalische Ma\u00dfnahmen wie die vom <a href=\"https:\/\/www.handelsblatt.com\/politik\/deutschland\/brief-an-gentiloni-neuer-vorstoss-scholz-bessert-plaene-fuer-finanztransaktionssteuer-nach\/25790132.html?ticket=ST-70635-dg5czJbDADHc7fdbW7yl-ap6\">SPD-Kanzlerkandidaten Scholz propagierte Finanztransaktionssteuer<\/a> seien eher nicht geeignet, um den Hochfrequenzhandel zu regulieren.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"684\" src=\"https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/stock-exchange-1024x684.jpg\" alt=\"\" class=\"wp-image-4032\" srcset=\"https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/stock-exchange-1024x684.jpg 1024w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/stock-exchange-300x200.jpg 300w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/stock-exchange-768x513.jpg 768w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/stock-exchange-600x401.jpg 600w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/stock-exchange-1536x1025.jpg 1536w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/stock-exchange-2048x1367.jpg 2048w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/stock-exchange-440x294.jpg 440w, https:\/\/www.d-kart.de\/wp-content\/uploads\/2020\/09\/stock-exchange-404x270.jpg 404w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p><strong>Apropos Kriminalit\u00e4t: Gibt es nicht auch KI in der Verbrechensbek\u00e4mpfung?<\/strong><\/p>\n\n\n\n<p>Ja, da ist die Rede von \u201epredictive policing\u201c. Selbstverst\u00e4ndlich ist k\u00fcnstliche Intelligenz nicht in der Lage, anhand von <a href=\"https:\/\/www.deutschlandfunkkultur.de\/grenzen-kuenstlicher-intelligenz-steht-uns-kriminalitaet.976.de.html?dram:article_id=481475\">Gesichtsfotos<\/a> zu erkennen, ob eine Person kriminell wird. Allerdings kann KI als Verfahren automatisierter Verdachtsgewinnung eingesetzt werden. Timo Rademacher, Prof an der Universit\u00e4t Hannover, zeigte dies anhand von praktischen Beispielen auf. Beispielsweise ist eine intelligente Video\u00fcberwachung in \u00a7 21 Abs. 4 PolG BW vorgesehen und wird aktuell in Berlin und Mannheim getestet. Die Video\u00fcberwachung soll nur dann aufzeichnen, wenn eine Straftat begangen wird. Problem: Blindes Vertrauen in die Richtigkeit des Algorithmus muss verhindert werden. Dazu ist eine \u201eWachhaltestruktur\u201c in Form von bewussten Fehlermeldungen oder einer randomisierten \u00dcberpr\u00fcfung durch Menschen unerl\u00e4sslich.<\/p>\n\n\n\n<p>Zudem droht eine diskriminierende Wirkung des Algorithmus, wenn dieser mit den <a href=\"https:\/\/www.deutschlandfunk.de\/diversitaet-und-algorithmen-lorena-jaume-palasi-nur-haende.911.de.html?dram:article_id=455866\">falschen, rassistischen Daten<\/a> gef\u00fcttert wird, k\u00f6nnte beispielsweise vorwiegend Menschen mit Migrationshintergrund eine eingehende Steuerpr\u00fcfung drohen. Ein Diskrimierungsverbot ist beim Fluggastdatenabgleich in \u00a7 4 Abs. 3 S. 7 FlugDaG vorgesehen. Wenn solche Regelungen zum Standard werden, k\u00f6nnten Algorithmen potenziell sogar neutraler als Menschen agieren und problematische Verhaltensweisen wie \u201eracial profiling\u201c vermeiden.<\/p>\n\n\n\n<p><strong>Kommen wir endlich wieder zum Kartellrecht. Kann das Kartellverbot dem algorithmenbasierten Handel \u00fcberhaupt noch gerecht werden?<\/strong><\/p>\n\n\n\n<p>Diesem spannenden Thema widmete sich Professor Andreas Heinemann von der Universit\u00e4t Z\u00fcrich, der ja zugleich Chef der Schweizer Wettbewerbskommission ist. <a href=\"https:\/\/papers.ssrn.com\/sol3\/papers.cfm?abstract_id=2490651\">Salil Mehra hat im Jahr 2014<\/a> das Thema aufgegriffen. Bahnbrechend war auch das Buch <a href=\"https:\/\/www.hup.harvard.edu\/catalog.php?isbn=9780674545472\">Virtual Competition<\/a> von Ariel Ezrachi und Maurice Stucke, die Kategorisierungen herausgebildet haben, mit denen heute gearbeitet wird. Diese Szenarien sind das Messenger Szenario, Hub and Spoke, Predictable Agent und Digital Eye (KI). Tats\u00e4chliche F\u00e4lle gab es bisher nur in den ersten beiden Kategorien. Zu nennen sind die Posterkartelle, wo eine Kartellabsprache durch den Einsatz von Preissetzungssoftware umgesetzt wurde. Im Falle von Hub and Spoke sind die <a href=\"https:\/\/appliedantitrust.com\/07_reasonableness\/case_studies\/uber\/meyer_sdny_dismiss_motion1_15_2016memo.pdf\">Class Action<\/a> gegen Uber, die <a href=\"https:\/\/concurrence.public.lu\/content\/dam\/concurrence\/fr\/decisions\/ententes\/2018\/decision-n-2018-fo-01-du-7-juin-2018-version-non-confidentielle.pdf\">WebTaxi<\/a> Entscheidung der luxemburgischen Kartellbeh\u00f6rde und der Eturas Fall vor dem EuGH hervorzuheben.<\/p>\n\n\n\n<p>Was eine algorithmische Koordination durch eine Preissoftware betrifft muss festgestellt werden, dass eine Koordinierung ohne Absprache oder abgestimmte Verhaltensweise auf menschlicher Ebene derzeit nicht unter das Kartellverbot f\u00e4llt. Der Vorschlag von <a href=\"https:\/\/papers.ssrn.com\/sol3\/papers.cfm?abstractid=3101088\">Kaplow<\/a>, auch ein blo\u00dfes Parallelverhalten, welches zu einem kollusiven Marktergebnis f\u00fchrt, unter das Kartellverbot zu packen, sei nicht zu unterst\u00fctzen, so Heinemann. Eine normale Anpassung an Marktgegebenheiten d\u00fcrfe nicht bestraft werden. Allerdings sollten die stark anthropozentrisch interpretierten Kriterien im Kartellverbot durch eine Einbeziehung von Maschinen erg\u00e4nzt werden. Auch f\u00fcr das Kartell der Maschinen brauche das Kartellrecht eine Antwort.<\/p>\n\n\n\n<p><strong>Kartelle der Maschinen, das ist schon sehr Zukunft, oder? Bleiben wir doch nochmal bei der Marktmacht der GAFAs.<\/strong><\/p>\n\n\n\n<p>Richtig, die setzen nat\u00fcrlich auch Algorithmen ein. Prof. Dr. Petra Pohlmann von der Universit\u00e4t M\u00fcnster verwies zun\u00e4chst auf die \u00fcberm\u00e4\u00dfige Datenerhebung und Nutzung zur Personalisierung durch einen Algorithmus \u2013 \u00fcber das Facebook-Verfahren haben wir <a href=\"https:\/\/www.d-kart.de\/blog\/2020\/08\/28\/facebook-case-the-reasoning\/\">hier<\/a> ja bereits ausf\u00fchrlich berichtet.<\/p>\n\n\n\n<p>Beim Thema algorithmische Preissetzung kommen einerseits ein Preish\u00f6henmissbrauch wie im Fall der <a href=\"https:\/\/www.bundeskartellamt.de\/SharedDocs\/Meldung\/DE\/Pressemitteilungen\/2018\/29_05_2018_Lufthansa.html\">Lufthansa<\/a> Tickets nach der Air Berlin-Insolvenz in Betracht. Andererseits k\u00f6nnte durch den neuen \u00a7 19a Abs. 2 Nr. 2 GWB-RefE auch eine Preisunterbietung mit Verdr\u00e4ngungsabsicht untersagt werden. Eine Preisdifferenzierung durch Algorithmen k\u00f6nnte \u00fcber \u00a7 19 Abs. 1, 2 Nr. 3 GWB untersagt werden. Die \u00f6konomische Bewertung von Preisdifferenzierungen ist zwar indifferent, es k\u00f6nnte aber \u00fcber die Privatautonomie des Verbrauchers als neue Schadenskategorie nachgedacht werden. Ankn\u00fcpfungspunkt w\u00e4re die Kenntnis des Verbrauchers \u00fcber die Preisbildung als Voraussetzung f\u00fcr seine Entscheidung am Markt. Die algorithmische Selbstbevorzugung von eigenen Diensten ist auch ein Thema mit dem sich Wettbewerbsbeh\u00f6rden bereits auseinandergesetzt haben, so etwa im <a href=\"https:\/\/ec.europa.eu\/commission\/presscorner\/detail\/de\/IP_17_1784\">Google Shopping<\/a> Fall oder der Ermittlungen der italienischen Kartellbeh\u00f6rde <a href=\"https:\/\/www.agcm.it\/media\/comunicati-stampa\/2019\/4\/Amazon-avviata-istruttoria-su-possibile-abuso-di-posizione-dominante-in-marketplace-e-commerce-e-servizi-di-logistica\">AGCM gegen Amazon<\/a>. Diesem Verhalten wird mit dem \u00a7 19a Abs. 2 Nr. 1 GWB-RefE ebenfalls eine eigene Kategorie gewidmet. Hier sollte insbesondere die Irref\u00fchrung der Verbraucher ber\u00fccksichtigt werden.<\/p>\n\n\n\n<p><strong>Gab es auch eine Diskussion?<\/strong><\/p>\n\n\n\n<p>Die Zeit zwischen den Panels war relativ knapp bemessen. Am Ende gab es noch eine Paneldiskussion mit Prof. Dr. Ulrich Schwalbe (Universit\u00e4t Hohenheim), Prof. Dr. Stefan Thomas (Universit\u00e4t T\u00fcbingen) und Prof. Dr. Maik Wolf (Freie Universit\u00e4t Berlin). Thomas griff nochmal das Ph\u00e4nomen der tacit collusion auf und machte einen <a href=\"https:\/\/papers.ssrn.com\/sol3\/papers.cfm?abstract_id=3392860\">eigenen Vorschlag<\/a> zur Bew\u00e4ltigung des Problems. Er pl\u00e4diert f\u00fcr die Subsumtion unter das geltende Kartellverbot beim Vorliegen bestimmter \u201eInformationssignale\u201c. Dies sei nach teleologischer Auslegung m\u00f6glich. In eine \u00e4hnliche Kerbe schlug Wolf, der aufgrund der gesteigerten Kollusionsgefahr auf algorithmengepr\u00e4gten M\u00e4rkten f\u00fcr eine Neuinterpretation des Begriffs der abgestimmten Verhaltensweise warb. \u00d6konom Schwalbe hingegen stellte grunds\u00e4tzlich in Frage, ob selbstlernende Algorithmen auf realen M\u00e4rkten \u00fcberhaupt zu einem erh\u00f6hten Kollusionsrisiko f\u00fchren. Aktuelle Studien h\u00e4tten gezeigt, dass eine Kollusion zwischen selbstlernenden Algorithmen ein m\u00f6gliches Marktergebnis ist. Allerdings beruhen diese Studien auf einer Simulation, die von Ein-Produkt-Firmen, einem Preis, einer simplen Preiskalkulation und gleichen oder \u00e4hnlichen Algorithmen ausgehen. Das seien eher unrealistische Annahmen. Zudem gebe es hunderte von Firmen die Preissetzungsalgorithmen anbieten. Nur gro\u00dfe Plattformen verwendeten im eigenen Unternehmen hergestellte Algorithmen. Die Wahrscheinlichkeit, dass alle Unternehmen auf einem Markt die gleichen Algorithmen verwenden, sei also gering. Unter diesen realen Bedingungen sei eine Kollusion deutlich schwerer zu erreichen als im Modell. Eine Evidenz f\u00fcr eine erh\u00f6hte Kollusionsgefahr durch Algorithmen auf realen M\u00e4rkten gibt es bisher aber nicht.<\/p>\n\n\n\n<p><strong>Do say:<\/strong> \u201eSolche Algorithmen werden ja nicht im Himmel vom lieben Gott geschrieben.\u201c (Andreas Mundt 2017 zu dem Einwand der Lufthansa, die m\u00f6glicherweise \u00fcberh\u00f6hten Flugpreise seien vom Algorithmus ausgeworfen worden)<\/p>\n\n\n\n<p><strong>Don\u2019t say:<\/strong> \u201eHouston, we got no problem.\u201c<\/p>\n\n\n\n<p><strong>Next:<\/strong> Die Vortr\u00e4ge sollen als Publikation bei Nomos ver\u00f6ffentlicht werden. Der letzte Band der Reihe <a href=\"https:\/\/www.nomos-shop.de\/titel\/neue-gemeinwohlherausforderungen-konsequenzen-fuer-wettbewerbsrecht-und-regulierung-id-86932\/\">ist in diesem Jahr erschienen<\/a>.<\/p>\n\n\n\n<p><\/p>\n\n\n\n<p><em>Adrian Deuschle ist Wissenschaftlicher Mitarbeiter am Lehrstuhl f\u00fcr B\u00fcrgerliches Recht, deutsches und europ\u00e4isches Wettbewerbsrecht und Doktorand bei Prof. Dr. Rupprecht Podszun.<\/em><\/p>\n\n\n\n<hr class=\"wp-block-separator\"\/>\n","protected":false},"excerpt":{"rendered":"<p>Die Wissenschaftliche Vereinigung f\u00fcr das gesamte Regulierungsrecht hat sich in ihrem 5. Symposium dem Thema Regulierung von Algorithmen gewidmet. Es handelt sich dabei um eine Thematik die \u2013 nicht nur im Kartellrecht \u2013 seit einigen Jahren hei\u00df diskutiert wird. Der kleine, feine Zusammenschluss von Professorinnen und Professoren aus dem Zivilrecht und dem \u00d6ffentlichen Recht tagt \u00fcblicherweise hinter verschlossenen T\u00fcren. Aber im Corona-Jahr ist alles anders: In diesem Jahr konnte sich jeder per Zoom einw\u00e4hlen. Adrian Deuschle hat\u2019s getan und berichtet&#8230;<\/p>\n<p class=\"read-more\"><a class=\"btn btn-default\" href=\"https:\/\/www.d-kart.de\/en\/blog\/2020\/09\/09\/conference-debriefing-21-regulierung-fuer-algorithmen\/\"> Read More<span class=\"screen-reader-text\">  Read More<\/span><\/a><\/p>\n","protected":false},"author":9,"featured_media":4037,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[232,231,216],"class_list":["post-4027","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-allgemein","tag-algorithmen","tag-kuenstliche-intelligenz","tag-regulierung"],"translation":{"provider":"WPGlobus","version":"3.0.0","language":"en","enabled_languages":["de","en"],"languages":{"de":{"title":true,"content":true,"excerpt":false},"en":{"title":false,"content":false,"excerpt":false}}},"_links":{"self":[{"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/posts\/4027","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/comments?post=4027"}],"version-history":[{"count":4,"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/posts\/4027\/revisions"}],"predecessor-version":[{"id":4043,"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/posts\/4027\/revisions\/4043"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/media\/4037"}],"wp:attachment":[{"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/media?parent=4027"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/categories?post=4027"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.d-kart.de\/en\/wp-json\/wp\/v2\/tags?post=4027"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}