Achtung! Sie befinden sich im Archivbereich. Klicken Sie hier, um zur NETHICS Homepage zu gelangen.


Zur Homepage
  Sitemap Informationen und Materialien zu brisantenThemen Aktuelle Meldungen und Termine informationsethisch relevante Themen Organisation von NETHICS e.V.
  Suche
Forum zu  brisanten Themen Informationen für die Presse Links zu verschiedenen UNESCO Webseiten Ressourcen - Hintergrundinformationen und Links
   
  themen : rating, filtern, blocken : ambivalenz  
  Ambivalenz von Filter-, Abblock- und Rating-Verfahren  
Zum Diskussionsforum
Zur virtuellen Bibliothek
 
 
Homepage der Deutschen UNESCO Kommission
 
Zum Seitenanfang
Zum Seitenanfang
Zum Seitenanfang
Zum Seitenanfang
Zum Seitenanfang
Zum Seitenanfang
Zum Seitenanfang
Zum Seitenanfang
Zum Seitenanfang
Zum Seitenanfang
Zum Seitenanfang
 

Rainer Kuhlen
Ambivalenz von Filter-, Abblock- und Rating-Verfahren
(Artikel erscheint in Kubicek H. u.a., Telekommunikationsjahrbuch 2000, Hüttig Verlag, Heidelberg 2000.)

1 Gespenst oder Schutzengel
2. Rating, Filtern, Blocken
3. Evaluierung
4. Ambivalenz der Einschätzung
5. Literaturhinweise

 

1 Gespenst oder Schutzengel

Für die einen geht ein Gespenst um im Internet, für die anderen sind es die Schutzengel im elektronischen Zeitalter. An kaum einem anderen Gegenstand wird die Ambivalenz von Sachverhalten im Internet so deutlich wie bei den hier zu besprechenden Filter-, Abblock- und Rating-Verfahren . Entsprechend scheiden sich hier die Geister: Die emphatisch Zustimmenden sehen die Chance (oder sogar die Notwendigkeit), durch Filter- und Abblockverfahren die Kontrolle über Internetinformationen dadurch zu behalten, daß Information mit deren Hilfe selektiv behandelt werden kann. Die kategorisch Ablehnenden wittern die Gefahr des Einstiegs in eine umfassende Internet-Zensur und sei es nur in eine Selbstzensur [ACLU 1997; GILC 1999] und sehen in Abblockverfahren eine Bedrohung des freien Informationsaustauschs in globaler Dimension, erst recht dann, wenn sie entweder aus ökonomischen Interessen oder über staatlich-interventionistische Regulierungsmaßnahmen erzwungen werden.

Wir werden auch in dieser Darstellung keine Patentlösung zur Auflösung der angedeuteten Spannung zwischen grenzenloser Freizügigkeit und interessen-/kulturgeleiteter Regulierung bzw. Einschränkung anbieten können. Im Internet wird man mit Rating, Filtern und Abblocken vermutlich leben (müssen), wenn auch ein solcher Eingriff in informationelle Autonomie - das ist die Fähigkeit, mit den Ressourcen der Information selbstbestimmt und aufgeklärt umgehen zu können -, keine Kleinigkeit ist [Kuhlen 1999]. Wir sollten zumindest wissen, worauf wir uns einlassen bzw. was uns zugemutet wird, wenn andere für uns oder wir für uns selbst filtern und blocken.

Unsere Darstellung wird den folgenden Gang nehmen: Wir werden uns darüber verständigen, was wir unter Filtern, Abblocken und Rating verstehen bzw. darunter subsumieren wollen. Wir wollen auch darüber berichten, wie diese Verfahren entstanden sind, was sie leisten und wer auf diesen ganz offensichtlich auch in finanzieller Hinsicht attraktiven Märkten mit welchen Produkten und welchen Leistungen tätig ist. Einige Hinweise auf die methodischen Hintergründe der Verfahren lassen systematische Defizite erkennen, die sich entsprechend in den Ergebnissen der (wenigen vorliegenden) Evaluierungsstudien niederschlagen. Den Abschluß bilden einige, die angesprochene Ambivalenz deutlich machenden Ausführungen zu den sozialkritischen bzw. politischen Aspekten des Bewertens, Filterns und Blockens.


2 Rating, Filtern, Blocken

Rating ist die Einschätzung und Bewertung von Informationsobjekten bezüglich der Qualität ihrer Inhalte und somit die Basis für Filtern und Blocken. Im Rating, sei es intellektuell oder maschinell durchgeführt, liegt der Sprengstoff, da die zum Einsatz kommenden Bewertungsverfahren zwangsläufig, implizit oder explizit, subjektive Interessenlagen oder bestimmte Wertesysteme widerspiegeln, die kaum intersubjektiv gültig sein können. Was positiv, was negativ ist, muß auf der Basis irgendeines Rating-Verfahrens entschieden werden. Die Filter- und Abblock-Programme führen nur das aus, was durch Rating festgelegt wurde .

Filtern ist die positive Leistung, das an Information bereitzustellen, was gewünscht ist. Beim Einsatz von Filtern werden den Nutzern von Internetdiensten ausschließlich die einem vorab definierten Profil entsprechenden Informationen zugestellt. Diese Leistung ist nur möglich, wenn die Informationselemente des Profils (z.B. eine Menge von inhaltsbeschreibenden Ausdrücken) mit den inhaltsbeschreibenden Elementen der Informationsobjekte im Internet übereinstimmen oder wenn die Objekte vorab explizit qualifiziert worden sind.

Abblocken ist das inverse Gegenstück zum Filtern, also die negative Leistung, das fernzuhalten, was nicht gewünscht ist. Durch Blocken, sei es in Auftrag gegeben oder sei es von Dritten verordnet, wird der Zugriff auf definierte, durch ein Rating-Verfahren qualifizierte Information verweigert. Der Benutzer erfährt gar nicht, daß die so klassifizierte Information existiert; höchstens kann der Auftraggeber des Abblockverfahrens darüber informiert werden, daß jemand versucht hat, sich Informationen zu verschaffen, die nach dem Abblockprofil ihm nicht zugebilligt werden.


2.1.1 Filtern

Der Grund für die Popularität von Filtersystemen ist einsichtig: Angesichts der weiter drastisch steigenden Informationsflut in den Internetdiensten, aber auch wegen der Komplexität vieler Informationsressourcen (z.B. professioneller Online-Datenbank- oder Mediendienste) haben viele Benutzer weder Zeit, Können noch Geduld, die für sie potentiell einschlägigen Informationsquellen laufend zu verfolgen und auszuwerten. Filtersysteme sind daher schon sehr früh zur Steuerung der überbordenden Information elektronischer Kommunikation, vor allem von Email und Newsgroups, eingesetzt worden . Das (Aus)Filtern von Nachrichten ist bis heute die verbreitetste Anwendung von Filtertechniken geblieben [Eisenmann/Rittberger 1999], bis hin zu den intensiv genutzten Push-Diensten der Medienindustrie, z.B. PointCast bzw. EntryPoint , durch die den Abonnenten der Dienste (laufend oder über eine persönliche Web site ) Medieninformationen zugestellt werden, die auf der Grundlage voreingestellter oder benutzerdefinierter Filter/Benutzermodelle selektiert worden sind. Solche individualisierten Massendienste - im Englischen spricht man von Mass customization - können sicherlich einen hohen informationellen Mehrwert für die Nutzer darstellen, verengen aber natürlich auch das Interessenspektrum auf einmal definierte Profile.

Entsprechend den grundlegenden Arbeiten von [Malone et al. 1987] kann man vier Filtertypen unterscheiden:

a) soziales Filtern: Information wird selektiert entsprechend den gewünschten oder zu vermeidenden Kommunikationspartnern

b) kognitives Filtern: Information wird entsprechend dem Inhalt (der Semantik) der Objekte selektiert, der nach bestimmten Kriterien definiert wird und die von Menschen oder Maschinen angewendet werden.

c) ökonomisches Filtern: Information wird selektiert entsprechend dem Aufwand (Zeit, Kosten), den ein Benutzer erbringen muß, um sie aufzunehmen:

d) kollaboratives Filtern: Information wird entsprechend dem Verhalten anderer Benutzer ausgefiltert, die früher an ähnlicher Information interessiert waren.

Das kollaborative Filtern als Technik von Software-Agenten [Bradshaw 1997], [Brenner/Zarnekow/Wittig 1998] ist vor allem durch den von Pattie Maes am M.I.T. entwickelten Firefly-Agenten [Maes 1994] bekannt geworden (kommerzialisiert als Firefly Network Inc der Firma Coopers & Lybrand). Firefly schlägt dem an einer speziellen Musik-CD Interessierten weitere CDs vor, die früher von anderen zusätzlich zu jener gekauft worden sind oder als dazu passend eingeschätzt wurden. Auch der Branchenvorreiter im Online-Buch-Shopping Amazon (amazon.com) verwendet kollaboratives Filtern, um potentiellen Käufern Kaufentscheidungen zu erleichtern bzw. sie zum Kauf weiterer Bücher zu animieren. Erfolgreich eingesetzt wird das kollaborative Filtern auch von der Surf-Maschine Alexa (alexa.com), bei der das reale Navigationsverhalten früherer Netzbenutzer systematisch ausgewertet wird, um aktuellen Nutzern Hinweise auf Web sites zu geben, die der gerade besuchten ähnlich sind. Alexa lernt also kontinuierlich vom Verhalten seiner bzw. der allgemeinen Netscape-Nutzer [Kuhlen 1999, Abschnitt 6.6.2]. Die Nutzer selber trainieren sozusagen (unbewußt) laufend die Software und verbessern dadurch die Leistung des kollaborativen Filterns.

Für unser zentrales Thema des filternden Abblockens von Information sind in erster Linie die Verfahren des kognitiven Filterns von Bedeutung, da hier Rating/Evaluierungs-Verfahren zum Einsatz kommen müssen. Auch die politisch-administrativen Nachrichtendienste bedienen sich dieser automatischen kognitiv-basierten Filtertechniken . Kognitives Filtern beruht also auf Wertsystemen und Evaluierungskriterien oder auch nur auf einmal getroffenen Interessenentscheidungen, die zwar auch fortgeschrieben werden (können/sollen), aber doch eher statischer bzw. beharrlicher Natur sind. So kann gegen die Filter/Push-Dienste der Medienindustrie eingewendet werden, daß sich die Sicht der Benutzer auf die allgemeine Öffentlichkeit auf ein spezielles, einmal gewähltes oder ausgewähltes Profil einschränkt. Im Gegensatz zum kollaborativen Filtern sollte es im Prinzip Nutzern möglich sein, die Basis des kognitiven Filterns, also die Wertesysteme, einzusehen, faktisch wird das aber meistens von den Anbietern aus Gründen der Know-how-Sicherung nicht gestattet.

2.1.2 Abblocken

Ist der Anlaß für Filtern allgemeine Überinformation, so ist der Anlaß für Abblocken die Ablenkung, Belästigung oder sogar Beschädigung durch unerwünschte Information. Die Leistung von Abblock-Software besteht also darin, daß aus dem Angebot von Informationssystemen das ferngehalten wird (Screening), was Benutzer nicht sehen wollen (aktives Abblocken) bzw. was andere wollen, daß sie nicht zu sehen bekommen (passives Abblocken).

Entstanden sind die verschiedenen Abblock-Verfahren als Formen der Selbstregulierung zur Abwehr von potentiellen Mißständen der Netzanwendungen, d.h. zur Abwehr von unerwünschter, gefährlicher oder illegaler Information und damit auch zur Abwehr ordnungspolitischer (staatlicher) Maßnahmen zur Einschränkung des freien Zugriffs auf Information (vgl. Anm. 15) . Initiatoren sind entweder Selbsthilfegruppen aus den verschiedenen Sparten der Bürgerbewegung, oder sie beruhen auf Aktivitäten der Wirtschaft selber, die entweder in kommerzieller Absicht, diese Abblock-Produkte zu verkaufen, tätig werden oder die andere kommerzielle Anwendungen durch den Einsatz von Abblock-Assistenten sicher und akzeptabel zu machen versuchen .

Beispiel für passives Abblocken ist der Einsatz von entsprechender Abblock-Software in Unternehmen, wenn nicht gewollt wird, daß die Angestellten bestimmte Inhalte im Internet einsehen, die nichts mit ihrer Arbeit zu tun haben (Spiele, Unterhaltung etc.) . Der Einsatz von Abblock- und Filterverfahren im kommerziellen Umfeld dürfte die Nutzung der Systeme in privaten Haushalten um ein Vielfaches übersteigen. Da von vielen Firmen der Zugriff auf externe Information zunehmend als wichtiger Wettbewerbsfaktor gesehen wird, wird der Internetzugang vom Arbeitsplatz aus immer mehr zur Selbstverständlichkeit. Naheliegend, daß versucht wird, diesen Zugang zum Nutzen der Firmen zu kanalisieren, wenn vermutet wird, daß Mitarbeiter einen Großteil ihrer Internet-Zeit dafür benutzen, um privat zu „surfen", und somit nicht zur Steigerung der Unternehmensproduktivität beitragen, sondern eher noch Kosten (Arbeitszeit, Online-Gebühren etc.) verursachen. Eine weiteres Feld für den Einsatz von Filter- und Abblockverfahren könnte sich dadurch ergeben, daß von der öffentlichen Hand betriebene oder finanzierte Einrichtungen (Schulen, Hochschulen, Bibliotheken, Museen, Verwaltungen jeder Art) gehalten werden, solche Verfahren zur Abwehr von Mißbrauch öffentlicher Gelder einzusetzen.

Im privaten Bereich gehört die Verwendung von Abblock-Software durch Eltern, um ihre Kinder vor Informationen zu schützen, die sie für gefährlich oder schädlich halten, ebenfalls zum passiven Abblocken. In jedem Fall gibt es beim passiven Abblocken einen (potentiellen) Konflikt zwischen Blockenden (den Anwendern der Software) und Geblockten (den von der Software Betroffenen), der in unterschiedlichen wirtschaftlichen, politischen und kulturellen Umgebungen unterschiedlich gelöst werden muß. Beispiel: Soll/darf/muß das allgemeine Recht auf freien Zugriff zur Information bei Kindern durch ihre Eltern eingeschränkt werden?

Ein Grenzfall des passiven Abblockens ist der Einsatz von Abblock-Software durch Service Provider oder Server-Betreiber, um ihre Kunden (und ihre Netze) vor der Belästigung durch Spamming zu schützen, also vor dem Überschwemmtwerden mit Emails, die kommerzielle Werbeinformation enthalten (Infomercials). Maßnahmen zur Abwehr von Spamming beziehen sich neben juristischen und organisatorischen auch auf die Entwicklung von Anti-Spam-Software , deren Leistung also im Abblocken von Spam besteht. Daß dies auf der Grundlage des kognitiven, vielleicht auch des sozialen Filterns äußerst schwierig ist, leuchtet ein. Aus dem Absender und der Subject-Angabe einer Email auf Spam zu schließen, ist kaum möglich. Eine weitergehende Analyse der Spam-Botschaft selber - z.B. durch Abblocken von Botschaften, die eine Häufung von Schlüsselwörtern enthalten, die auf Spam schließen lassen - ist aufwendig, fehleranfällig und durch entsprechende Formulierungen zu unterlaufen.

Beim aktiven Abblocken entscheiden die Benutzer selber, ob und was von ihnen ferngehalten werden soll. Dies setzt voraus, daß sie entweder über selbst entwickelte Filter- und Abblock-Systeme mit entsprechenden Rating-Verfahren verfügen, öffentlich oder kommerziell angebotene Systeme nach ihren Bedürfnissen, Abblockinteressen modifizieren können oder sich die Leistungen der angebotenen Software willentlich zu eigen machen, also deren Wertebasis und Systemleistungen akzeptieren. Aktives Abblocken setzt den mündigen Internet-Bürger voraus. Die Zuständigkeit für das Abblocken wird bewußt und vertrauensvoll an Dritte delegiert.

Manche Abblock-Systeme reagieren mit entsprechenden Maßnahmen, wenn die eingestellte Nutzungsbefugnis übertreten wird, z.B. durch Aufzeichnung der Übertretung im Überwachungsprotokoll (Log file), durch Warnmeldungen oder durch automatische Abschaltung der laufenden Anwendung. Grundlage hierfür sind sogenannte Audit trails, durch die bei eingeschalteter Software alle internen und auf das Web bezogenen Aktivitäten auf dem laufenden Rechner aufgezeichnet und den dafür Berechtigten einsichtig gemacht werden (sogenanntes Patron alert). Auf Wunsch können auch die Anwender der Software unmittelbar per E-mail benachrichtigt werden. Abblock-Verfahren können verschiedentlich auch über ein Zeit-Management gesteuert werden, d.h. die Zugriffsbeschränkungen können zeitlich individuell definiert werden (z.B. Nutzung nur bei Tag oder nur für eine bestimmte Anzahl von Stunden pro festgelegter Zeiteinheit). Auch kann die Weitergabe von persönlichen Daten (z.B. Namen, Alter, Geschlecht, Adresse etc.) geblockt werden, indem diese sensiblen Informationen vorher in entsprechende Listen eingetragen werden. Einige Systeme greifen „redaktionell" in die Informationen ein, indem abzublockende unerwünschte Wörter auf der betreffenden Seite durch XXX überschrieben werden, so daß der Inhalt für einen Leser nicht mehr erkennbar ist.

Das Abblocken von Bildern bzw. bewegter Graphik ist beim gegenwärtigen Stand der Technik (der Bilderkennung) noch ein Problem, obgleich hierdurch die für viele Benutzer „interessante" bzw. gefährliche Information gegeben wird. Einfache Verfahren über das Abblocken von Seiten mit Bildern mit einer Kombination von „anstößigen" Wörtern plus Graphik-Suffixen wie .gif oder .jpeg sind eher nur Ersatzlösungen.

2.1.3 Rating

In jedem Fall beruht die Leistung des Filterns oder Abblockens auf der Bewertung/Einschätzung der zu filternden oder abzublockenden Objekte bzw. ihrer Inhalte.

Im wesentlichen kommen drei Verfahren zum Einsatz:

1. Verwendung von Listen von als positiv oder negativ eingeschätzten Internet-Objekten. Dadurch wird z.B. bei positiv eingestuften Internet-Anwendungen der Zugang nur über die ihnen zugeordneten URLs, IP-Adressen oder IRC Chat Lines bzw. Newsgroups ermöglicht, alles andere wird abgeblockt.

2. Verwendung von positiven oder negativen Keyword-Listen (White/Black lists), z.B. CyberNot oder CyberYes bei Cyber Patrol, durch die die Internetobjekte gefiltert oder abgeblockt werden, bei denen es eine (zu definierende) Übereinstimmung ihrer Wortvorkommen mit den Einträgen der Keyword-Listen gibt.

3. Anwendung von expliziten Rating-Verfahren, nach denen Internet-Objekte (meist intellektuell) bewertet werden, so daß bei der Suche oder der Navigation in den Internetdiensten nur die zugestellt werden, die direkt einem mit Hilfe des Rating-Systems ermittelten Profil entsprechen, bzw. die abgeblockt werden, die durch die Rating-Verfahren als negativ eingeschätzt wurden.

Ad 1) Der Aufbau von Positiv- oder Negativ-Adresslisten geschieht durch die unter (2) und (3) zur Anwendung kommenden Verfahren. Die aufzunehmenden Objekte werden also entweder durch das Vorkommen bestimmter Wörter (Stichwörter, Keywords) in ihnen oder durch die Bewertung ihres Inhaltes nach einem vorgegebenen Rating-Verfahren bestimmt. Dabei kann nach den verschiedenen Internetdiensten gestaffelt werden. Die umfänglichste Ausschlußoption, die z.B. bei der Software Surf Watch gewählt werden kann, verweigert den Zugriff auf das Internet insgesamt.

ad 2) Abblocken und Filtern auf der Basis des einfachen Abgleichs der Einträge in (intellektuell erstellten) Positiv- bzw. Negativ-Wortlisten mit dem entsprechenden Vorkommen in dem jeweiligen Objekt ist nichts anderes als eine Anwendung der methodischen Prinzipien des Information Retrieval [Belkin/Croft 1992], oder anders formuliert: der automatische Abgleich ist mit den Verfahren des (nicht terminologisch kontrollierten) Voll-/Freitextretrieval zu vergleichen, während das intellektuell durchgeführte Rating dem Indexieren und der Suche mit einem kontrollierten Vokabular entspricht.

Zuweilen wird versucht, die offensichtlich unzureichende Schlichtheit des Abblockens von Information auf der Grundlage von Sprachoberflächenphänomenen wie Wortvorkommen durch den Einbezug des sprachlichen Kontextes bzw. durch die Einschätzung der die zu diskriminierenden Zeichen enthaltenden Ressourcen auf ein höheres Niveau zu heben (z.B. Web sites, die sich auf Kunst, Medizin oder Sexualerziehung beziehen, müssen nicht durch Wörter, die sich auf Sex beziehen, abgeblockt werden).

Weiter fortgeschrittene Verfahren des Erkennens erwünschter oder unerwünschter Information bzw. des automatischen Aufbaus von Filterverfahren bzw. -listen, die sich auf linguistische und wissens-/regelbasierte Techniken abstützen müßten, kommen bislang erst ansatzweise zum Einsatz, wenn auch im Prinzip die Techniken des automatischen Wörterbuchaufbaus, des automatischen Konzeptlernens bzw. des Knowledge discovery und des Data mining Anwendung finden sollten.

Bei den wenigsten Anwendern sind die zum Einsatz kommenden Listen von den Benutzern einsehbar , sei es der Verzeichnisse positiver oder negativer Adressen (URLs, IPs) oder sei es der Positiv- oder der Negativwortlisten. In der Regel sind die Listen verschlüsselt. Einige Systeme erlauben aber durchaus das eigene Konfigurieren bzw. Editieren von Positiv- oder Negativlisten (Löschen und/oder Einfügen individueller inhaltskennzeichnender Ausdrücke) oder deren Import aus anderen Quellen, ggfls. auch mit Verzeichnissen aus anderen Sprachen .

Die Einträge sind häufig bestimmten Hauptgruppen (Kategorien) zugeordnet, die man manchmal zu- bzw. abschalten kann, so daß nur bestimmte Teilbereiche geblockt oder gefiltert werden. Beispiele für häufige Hauptgruppen sind: Violence, Nudity, Adult Sexuality, Cult, Militant, Gay/Lesbian bzw. jede Art von Sachklassifikationen wie Games, Movies, Pets, Outdoors etc. Bevorzugtes Rating-Objekt ist alles, was mit Sex zu tun haben kann, bzw. Seiten, vor denen Kinder geschützt werden sollen. Rating-Kriterien bei Sex sind etwa: Passionate kissing, clothed sexual touching, explicit sexual activity, nudity, sex crimes, pedophilia.

ad 3) Die meisten gegenwärtigen Rating-Verfahren bzw. die Verfahren zur Durchführung des Filterns und Blockens beruhen auf dem PICS-Standard (Platform for Internet Content Selection) . PICS ist entstanden aus der Initiative IHPEG (Information Highway Parental Empowerment Group) und wurde entwickelt und gefördert vom World Wide Web Consortium (W3C). PICS ist im wesentlichen eine Sprache zur Formulierung von Filterregeln (Profilen), durch die der Zugriff oder das Abblocken von URLs (und damit der entsprechenden Web-Seiten) möglich wird, die durch PICS-Labels (sogenannte Rating tags) im HTML-Code beschrieben werden. Einmal über PICS formulierte Profile könnten leicht von Personen und Institutionen übernommen bzw. auch modifiziert werden, um den Aufwand der Eigenentwicklung gering zu halten und um verschiedene Anwendungen kompatibel zu halten. PICS ist also selber keine Filter-/Abblock- oder Rating-Software, sondern gibt technische Spezifikationen vor, auf deren Grundlage Bewertungsschemata, reale Rating-Software/-systeme entwickelt werden können .

Der PICS-Standard wurde rasch von der Informationswirtschaft und Software-Industrie aufgegriffen und eine Zeitlang auch von der offiziellen amerikanischen Regierungspolitik als Beispiel der Selbsthilfe durch Selbsteinschätzung unterstützt. PICS gilt sozusagen als Qualitätsgarantie. So weisen viele Softwareanbieter darauf hin, daß PICS-kompatible Rating-Kategorien für die Filter-/Abblock-Anwendungen verwendet worden sind. Auch in der Bundesrepublik, z.B. bei einer Entwicklung von Bertelsmann, wird auf den PICS-Standard bzw. auf dessen Weiterentwicklung gesetzt (vgl. Bertelsmann 1999) . In der Medienwelt wurde PICS verschiedentlich eher als Beihilfe zur Selbstzensur abgelehnt.

Was die Entwickler und Anwender von PICS leisten bzw. festlegen müssen, ist im wesentlichen Folgendes:

  • Festlegen der Zielinhalte: Pornographie, Gewalt, Pädophilie, politische Ausrichtungen, Spiele, etc.
  • Aufbau und Pflege des Positiv- bzw. Negativvokabulars, ggfls. mit Varianten unter Berücksichtigung multikultureller bzw. multilingualer Anwendungen
  • Festlegen der Zielobjekte: Web site, Newsgroups, Chat boards, etc.
  • Aufbau von Positiv- bzw. Negativ-Listen zu filternder bzw. abzublockender Objekte
  • Festlegen der Granularität des Rating: ganze Sites, einzelne Seiten, Objekte (Bilder) in ihnen
  • Festlegen, wer das Rating durchführen soll

Bei der Durchführung des Rating-Verfahrens kommen grundsätzlich die folgenden Verfahren zur Anwendung:

a) Selbstbeurteilung durch Web-Autoren, entsprechend den Abstufungen eines vorgegebenen (öffentlichen oder kommerziellen) Rating-Systems; dazu wird in de Regel ein HTML-Formular angeboten, das der Autor ausfüllt und das dann redaktionell (intellektuell) oder von einem Programm (maschinell) überprüft wird.

b) Beurteilung durch (interne oder beauftragte) Fachleute der Filter-/Abblock-Firmen, die dann durch Aufforderung der Ersteller von Internetanwendungen oder durch den Auftrag ihrer Firmen tätig werden.

c) Beurteilung durch unabhängige Fachleute oder Netzbenutzer, die im Auftrag von Filter-/Abblock-Firmen tätig, gesteuert bzw. ausgewählt werden .

d) Beurteilung durch unabhängige Fachleute in Selbstorganisation (Third-party rating), also durch die Bewertungsgemeinschaft von Netzbenutzern mit gemeinsamen (Vertrauen sichernden) Interessen, Hintergründen und Zielen. Die Organisation dieses Rating-Verfahrens könnte dabei auch von als moralisch-integer angesehenen bzw. interesselosen Organisationen, wie z.B. von der UNESCO, übernommen werden. Basisbewegungen werden häufig früher oder später von kommerziellen Interessenten übernommen bzw. über Sponsoring kontrolliert.

Beim einfacheren Fall des Rating werden die Internetanwendungen durch das bereitgestellte Rating-Vokabular (Positiv- oder Negativwortlisten) quasi indexiert. Die ermittelten Ausdrücke werden z.B. in den Rating-Tags des PICS-Standards oder auch in die Meta-Tags von HTML eingetragen. Weitergehende Rating-Verfahren, die damit über den engeren Zweck des Filterns und Abblockens hinausgehen, aber zu diesem Kontext gehören, können höchst aufwendig werden, wie auch sonst Verfahren zur Qualitätseinschätzung. Kriterien können sich auf eher formale Aspekte beziehen, wie z.B. Design der Anwendung, Kohärenz in der Verwendung von Metaphern, Zugriffs-, Lade- und Update-Zeiten, Navigations-, Such- und Orientierungsmöglichkeiten, Ausmaß der Multimedialität, Qualität und Zuverlässigkeit der Links, greifen aber durch die Einschätzung des Inhalts und der Qualität ihrer Autoren bzw. Referenzinstitutionen weit in die semantische (und pragmatische) Kontrolle der Internet-Anwendungen ein. Bei der Einschätzung von Autoren und Institutionen können Verfahren zur Anwendung kommen, wie sie bei Diensten zur Ermittlung von Experten auch im Internet verwendet werden. Inhalte können durch wissenschaftliche Referenzen oder sonstige Einbettungen von Verknüpfungen (Links), durch Nachweis von Begutachtungsverfahren oder durch Beleg der Aussagen über empirisch ermittelte und nachvollziehbare Daten/Statistiken bewertet werden. Den einzelnen Kriterien können Gewichtungsfaktoren und/oder eingeführte Skalierungsunterscheidungen (am einfachsten nach dem Notensystem) zugeordnet werden, so daß eventuell ein einheitlicher Bewertungsindex ermittelt werden kann. Das Hauptproblem, neben der grundsätzlich bestehenden qualitativen Einschätzung in einer multikulturellen Umgebung wie dem globalen Internet, ist durch den schieren und zudem laufend anwachsenden Umfang der Internet-Anwendungen gegeben. Auch bei einer verteilten Organisation der Beurteilung (entsprechend (c) und (d) oben) werden die Verfahren immer der Entwicklung hinterherhinken. Eine weitgehende Automatisierung der Qualitätseinschätzung über die angegebenen Oberflächenverfahren hinaus ist bislang nicht in Sicht.

Das erfolgte Rating von Internetanwendungen wird häufig durch das Anbringen von Qualitätssiegeln (Labelling) dokumentiert , d.h. die Bewertung wird grafisch durch geeignete Symbole visualisiert, die somit Rückschlüsse auf die Qualität der betreffenden Internetseiten zulassen sollen. Dies kann der Orientierung von Internetnutzern dienen, die zwar keine Filter-/Abblock-Software anwenden wollen, aber durch die angebrachten Siegel sich doch zur Nutzung ermutigt oder abgeschreckt sehen.


3 Evaluierung

Umfassendere Bewertungsstudien zur Einschätzung der Leistungsstärke von Filter-/Abblock-Systemen liegen kaum vor. Zu den wenigen gehören die 1997 vom Electronic Privacy Information Center (EPIC) und vom Internet Filter Assessment Project (TIFAP) durchgeführten Studien, die im wesentlichen die Unzulänglichkeit der bisherigen Verfahren nachweisen . In einer neueren, am Lehrstuhl für Informationswissenschaft an der Universität Konstanz durchgeführten Studie wurden die vier Filter-/Abblock-Systeme Net Nanny, Cyber Patrol, Cyber Sitter und Surf Watch untersucht und bewertet. Insgesamt wurden 17 verschiedene Relevanzkriterien bezüglich der Systemfunktionalität aufgestellt und getestet . Nach dieser Bewertung ergab sich bezüglich der (durch die Funktionen definierte) Systemleistung eine (durch mehrere Signifikanztests bestätigte) Reihenfolge von Cyber Patrol, Net Nanny, Cyber Sitter und Surf Watch [Tröndle 1999]. Wichtiger als diese Systemeinschätzung ist für unsere Fragestellung jedoch die Einschätzung ihrer Such- bzw. Abblockfunktionalität, ob also die Software-Systeme wirklich all das abblocken, was erwartet wird, daß sie abblocken, und ob das, was abgeblockt wird, zu Recht abgeblockt wird. Dies kann in einem Retrievaltest unter Anwendung der üblichen Recall- und Precision-Parameter untersucht werden .

In dem von [Tröndle 1999] durchgeführten Test über 10 identische Testfragen bei Verwendung derselben Suchbegriffe ergaben sich für die vier Systeme bei Einsatz ihrer vollen Filterleistung (also unter Einsatz der Keyword-Vergleichsverfahren und der Listen positiver bzw. negativer Zieladressen) ein durchschnittlicher Recall-Wert von 25% und ein durchschnittlicher Precision-Wert von 59%. Daraus kann - mit allem Vorbehalt gegenüber einer zwar methodisch kontrollierten, aber doch limitierten und mit subjektiven Faktoren behafteten Untersuchung - gefolgert werden, daß bei der vollen Systemleistung, bei der also auch die Keyword-Vergleichsverfahren, nicht nur die Listen positiver oder negativer Zieladressen, zum Einsatz kommen, 75% der durch die Suchmaschine (hier war es Alta Vista) gefundenen Web sites fälschlicherweise als anstößig bzw. als unangemessen deklariert und damit abgeblockt wurden und 41% der im Prinzip nach den Vorgaben eigentlich anstößigen bzw. unangemessenen Web sites nicht also solche identifiziert wurden und damit frei zugänglich blieben. Tendenziell können damit die Einschätzungen von EPIC, TIFAP oder des Censorware-Projektes bestätigt werden: zum einen wird offensichtlich, vor allem bei Einsatz der Sprachoberflächenverfahren wie Keyword-Vergleich, viel zu viel abgeblockt, zum andern kann man sich nicht darauf verlassen, daß nichts durchschlüpft, was unerwünscht ist.

4 Ambivalenz der Einschätzung

Es sollte deutlich geworden sein - die Verfahren des Filtern und Blockens sind für sich wertneutral, basieren jedoch auf einem meist subjektiven oder interessegeleiteten Rating. Sie können gleichermaßen für das positive Ziel der Zustellung nur erwünschter Information und für das negative Ziel der Verhinderung unerwünschter Information eingesetzt werden. Sie können aus polizeilichen Ermittlungs- bzw. nachrichtendienstlichen Interessen ebenso verwendet werden, wie zur Kontrolle des Navigationsverhaltens von Angestellten einer Firma, zur Entlastung von Eltern, die ihren Erziehungsauftrag wegen Überlastung an Software abgeben wollen, zum Schutz vor belästigender Werbeinformation oder sonstiger störender, beleidigender oder verletzender Information, zur zielgerechten, interessenadaptiven Selektion von ansonsten nicht mehr überschaubarer Medieninformation, ...

Filter-, Abblock-Verfahren können als Mittel der Manipulation von Internetnutzern aus politischen, ökonomischen oder auch moralisch/religiös-missionarischen Interessen interpretiert bzw. genutzt werden. Sie können als erwünschte, in jedem Fall aber nicht zu vermeidende Mittel angesehen werden, die Orientierung in der Flut der Internet-Anwendungen zu behalten. Sie können auch als Formen der freiwilligen Selbstkontrolle der Wirtschaft bzw. von Anbietern von Internet-Angeboten jeder Art begriffen werden, durch die ein (ansonsten als nicht vermeidbar angesehenes) Eingreifen des Staates mit regulierenden bzw. gesetzgeberischen Maßnahmen verhindert werden soll.

Filter- und Abblocktechniken wie auch allgemeinere Überwachungstechniken kommen ordnungspolitischen Interessen entgegen und scheinen auch den Moralvorstellungen gegenwärtiger bürgerlicher Gesellschaften zu entsprechen. In so gut wie allen Staaten, die sich dem Internet intensiver ausgesetzt sehen, hat es Versuche der Regulierung auch der Inhalte gegeben . Politisch mehrheitsfähig scheinen zur Zeit die politischen Maßnahmen zur direkten Kontrolle nicht zu sein . Daher wird in vielen Staaten, so auch in der Bundesrepublik und in der EU, auf Formen der Selbstkontrolle bzw. Selbstregulierung gesetzt, sei es durch die Institutionen der Informationswirtschaft, sei es durch Maßnahmen der Ersteller von Web sites direkt oder sei es durch Institutionen, vor allem aus der Bürgerrechtsbewegung, die damit weitergehenden staatlichen Maßnahmen einen Riegel vorschieben wollen.

  • Zensur sollte grundsätzlich in elektronischen Netzen verboten sein (Postulat des Zensurverbots)
  • Meinungsfreiheit dürfe weder über direkte (gesetzgeberische) noch indirekte (verstärkte Kontrollen) Maßnahmen, sei es von seiten des Staates oder der Wirtschaft, eingeschränkt werden (Postulat der uneingeschränkten Meinungsfreiheit)
  • jede Art von diskriminierenden Information (z.B. mit Bezug auf Geschlecht, Rasse, Religion, politische Überzeugungen) müsse von den Netzen ferngehalten werden (Postulat der Nicht-Diskriminierung)
  • die Netzbenutzer selber sind die kompetentesten Beurteiler der Validität und Sozialverträglichkeit von Information (Postulat der Autonomie)
  • das Recht über die Verfügung der eigenen persönlichen Daten dürfe nicht eingeschränkt werden (Postulat der Privacy)

Auf der anderen Seite ist nicht zu verkennen, daß aus den gleichen politischen Kreisen der Internet-Gemeinschaft drastisch warnende Stimmen gegen Rating-Verfahren und entsprechende Filter- und Abblock-Software kommen, vor allem wenn sie von staatlicher Seite aus zur Anwendung kommen. Warum warnen Bürgerrechtsinitiativen, aber auch Vertreter der Informationswirtschaft, jeweils aus unterschiedlichen Gründen, vor einer weiteren Verbreitung von Filtering-/Abblock-Software? Wann könnte es für den freizügigen Informationsfluß im Internet gefährlich werden? Z.B.

  • wenn sich bestimmte Methoden und Verfahren zur Bewertung von Inhalten durchsetzen und zum De-facto-Standard im Internet und somit zu Komponenten von Internet-Software werden, wie z.B. PICS (und Weiterentwicklungen) für die Methoden und die Listen von Safe Surf oder INCORE für die Rating-Systeme
  • wenn die den Rating-Verfahren zugrundeliegenden Wertesysteme auf Länder mit ganz anderen kulturellen Hintergründen übertragen werden
  • wenn Filter-/Abblock-Verfahren auf der Grundlage entsprechender Rating-Systeme in Internet-Browser bzw. Internet-Suchmaschinen fest eingebaut werden und nicht mehr von Nutzern abgestellt werden können
  • wenn Verfahren der Selbsteinschätzung bzw. ersatzweise der Delegation der Einschätzung an Dritte verbindlich werden
  • wenn (öffentlich finanzierte) Schulen oder Bibliotheken verpflichtet werden, Rating- bzw. Filter-/Abblock-Verfahren einzusetzen
  • wenn zivil- und strafrechtliche Maßnahmen gegenüber Personen und Institutionen ergriffen werden, denen (bewußt oder unbewußt?) falsches oder irreführendes Rating ihrer Web-Angebote nachgewiesen wird
  • wenn Internet-Browser bzw. Internet-Suchmaschinen Web sites automatisch abblocken, die sich nicht einem (anerkannten) Rating-Verfahren unterworfen haben

Übernatürliche oder auch nur quasi naturwüchsig gegebene Wesen sind Rating-, Filter- und Abblockverfahren natürlich nicht - also auch keine Gespenster oder Engel oder unvermeidliche Naturereignisse -, sondern spiegeln reale politische, ökonomische und soziale Interessen wider. Diese zumindest zu durchschauen versuchen, sollte Pflicht mündiger Bürger in der Informationsgesellschaft sein.


5 Literaturhinweise

[ACLU 1997] The American Civil Liberties Union: White Paper. Fahrenheit 451.2: Is cyberspace burning? (http://www.xxxx/aclu_burning.html)

[Agre/Rotenberg 1997] P.E. Agre; M. Rotenberg (eds.): Technology and privacy: The new landscape. The MIT Press: Cambridge, MA, London, UK, 1997

[Balkin et al. 1999] J.M. Balkin; B.S: Noveck; K. Roosevelt: Filtering the Internet: A best practices model. In: J. Waltermann; M. Machill: Protecting our children on the Internet. Towards a new culture of responsibility. Bertelsmann: Gütersloh 1999

[Belkin/Croft 1992] N.J. Belkin; W.B. Croft: Information filtering and information retrieval: Two sides of the same coin? Communications of the ACM 35, 1992, 12, 29-38

[Bertelsmann 1999] Bertelsmann-Stiftung: Verantwortung im Internet - Memorandum zur Selbstregulierung im Internet. Gütersloh 1999

[Bradshaw 1997] J.M. Bradshaw: Software agents. AAAI/The MIT Press: Menlo Park, CA; Cambridge, MA; London, UK 1997

[Brenner/Zarnekow/Wittig 1998] W. Brenner; R. Zarnekow; H. Wittig: Intelligente Softwareagenten. Grundlagen und Anwendungen. Springer: Berlin etc. 1998

[Brin 1998] D. Brin: The transparent society. Will technology force us to choose between privacy and freedom? Addison-Wesley: Reading, MA, 1998

[Eisenmann/Rittberger 1999] M. Eisenmann; M. Rittberger: Social filtering of news using the Konstanz Hypertext System. Bericht Informationswissenschaft, Universität Konstanz: Konstanz 1999

[EPIC 1997] Electronic Privacy Information Center: Faulty filters: How content filters block access to kid-friendly information on the Internet (http://www.epic.org)

[GILC 1999] Global Internet Liberty Campaign: Member statement submitted to the Internet content summit. München 9.-11. Sept. 1999 (http://www.gilc.org/speech/ratings/gilc-munich.html).

[Kuhlen 1999] R. Kuhlen: Die Konsequenzen von Informationsassistenten. Was bedeutet informationelle Autonomie oder wie kann Vertrauen in elektronische Dienste in offenen Informationsmärkten gesichert werden? Suhrkamp-Verlag Frankfurt, stw 1443

[Leinberger 1999] F. Leinberger: Die Regulierung von Online-Diensten auf Ebene der Europäischen Union und ausgewählter Mitgliedsstaaten. Diplomarbeit Fakultät für Verwaltungswissenschaft (Betreuung Lehrstuhl für Informationswissenschaft in Fachbereich Informatik und Informationswissenschaft) der Universität Konstanz: Konstanz 1999

[Malone et al. 1987] T.W. Malone; K.R: Grant; F.A: Turbak; S.A: Brobst and M.D. Cohen: Intelligent information-sharing systems. Communications of the ACM 30, 1987, 5, 390-402

[Maes 1994] P. Maes: Agents that reduce work and information overload. Communications of the ACM 37, 1994, 7, 30-40

[TIFAP 1997] Internet Filter Assessment Project: A talking paper on Internet filters (http://www.bluehighways.com/tifap/)

[Tröndle 1999] M. Tröndle: Experimentelle Bewertung von Blocking- und Filtersystemen im Internet. Ein Vergleich der Systeme von Net Nanny, Cyber Patrol, Cyber Sitter und Surf Watch. Diplomarbeit im Fach Informationswissenschaft an der Universität Konstanz. Konstanz August 1999

[Whitaker 1999] R. Whitaker: The end of privacy. How total surveillance is becoming a reality. The New Press: New York 1999

Kontakt:
Info@nethics.net
 
letzte Änderung am 17.03.2000