Πλαίσιο Δεοντολογίας Τεχνητής Νοημοσύνης Zooniverse

Πλαίσιο Δεοντολογίας Τεχνητής Νοημοσύνης Zooniverse

Προοίμιο

Αυτή η σελίδα παρουσιάζει το Πλαίσιο Δεοντολογίας Τεχνητής Νοημοσύνης (AI) του Zooniverse, συμπεριλαμβανομένων συστάσεων για την εκτέλεση έργων στο Zooniverse που ασχολούνται με την τεχνητή νοημοσύνη (AI) ή/και τη μηχανική μάθηση (ML). Πρόκειται για ένα ζωντανό πλαίσιο και δεσμευόμαστε να το βελτιώνουμε και να το επαναλαμβάνουμε καθώς λαμβάνουμε σχόλια και καθώς τα τεχνολογικά, κοινωνικά και πολιτιστικά πλαίσια συνεχίζουν να εξελίσσονται. Αυτή η σελίδα έχει ως κύριο στόχο να παρέχει πληροφορίες στους εθελοντές του Zooniverse. Οι ομάδες έργων μπορούν να διαβάσουν συγκεκριμένες οδηγίες στην τεκμηρίωση του Zooniverse.

Ενώ η εφαρμογή της τεχνολογίας «Τεχνητής Νοημοσύνης» στο Zooniverse παραδοσιακά γινόταν μέσω συγκεκριμένων διαδικασιών μηχανικής μάθησης («αλγοριθμικά εργαλεία και τεχνολογίες που μαθαίνουν από υπάρχοντα δεδομένα για την επίλυση εργασιών»), ο όρος «Τεχνητή Νοημοσύνη» έχει γίνει ένας γενικός ορισμός για την περιγραφή αυτού του τύπου αυτοματισμού. Η ΤΝ αναφέρεται γενικά σε «υπολογιστές που μπορούν να μιμηθούν την ανθρώπινη σκέψη» και η μηχανική μάθηση είναι ένα υποσύνολο αυτής της έννοιας. Σε αυτό το πλαίσιο, θα χρησιμοποιούμε τον όρο «Τεχνητή Νοημοσύνη/Μηχανική Μάθηση» σε όλο το κείμενο για να αναφερθούμε σε αυτές τις διαδικασίες, προκειμένου να συμπεριλάβουμε σε γενικές γραμμές μια σειρά μεθόδων, καθώς και να διατηρήσουμε κάποια διάκριση μεταξύ αυτών των δύο όρων.

Η δημιουργία, η συντήρηση και η χρήση αυτού του πλαισίου απαιτούν διακριτές αρμοδιότητες—για την πλατφόρμα Zooniverse, τις ομάδες έργου και τους εθελοντές, ώστε να διασφαλιστεί ότι η ενσωμάτωση της Τεχνητής Νοημοσύνης/Μηχανικής Σχεδίασης (ΤΝ/ΜΜ) στην συμμετοχική έρευνα παραμένει διαφανής, ηθική και καθοδηγούμενη από την κοινότητα.

  • Η πλατφόρμα Zooniverse είναι υπεύθυνη για την ανάπτυξη και τήρηση αυτών των συστάσεων.
  • Οι ομάδες έργου είναι υπεύθυνες για την ερμηνεία και εφαρμογή των συστάσεων.
  • Οι εθελοντές έχουν την εξουσία να επιβεβαιώνουν ή αμφισβητούν την εφαρμογή μέσω ανατροφοδότησης ή άσκησης αυτονομίας (π.χ. επιλέγοντας να μην συμμετάσχουν σε ένα έργο).

Πίνακας περιεχομένων

Βασικές Αρχές

  1. Ενσωματώστε διαφάνεια στη διακυβέρνηση πλατφορμών που σχετίζονται με την Τεχνητή Νοημοσύνη/Μηχανική Μάθηση, την ανάπτυξη και την υλοποίηση έργων.

  2. Σχεδιάστε για την εμπειρία του εθελοντή και ιεραρχήστε την αρμοδιότητα και τη συναίνεση για τους εθελοντές κατά την επιλογή έργων. Λάβετε υπόψη τα οφέλη για και τα κίνητρα των εθελοντών σε έργα που σχετίζονται με την Τεχνητή Νοημοσύνη/Μηχανική Μάθηση.

  3. Διευκολύνετε την υπευθυνότητα επιδεικνύοντας την τήρηση σαφών κατευθυντήριων γραμμών ως προϋπόθεση για την έναρξη ενός επίσημου έργου Zooniverse.

  4. Δεσμευτείτε για συνεχή διάλογο και για την ανταπόκριση των έργων και των πλατφορμών στις εξελισσόμενες στάσεις και συζητήσεις σχετικά με την Τεχνητή Νοημοσύνη/Μηχανική Σχεδίαση (ΤΝ/ΜΜ).

  5. Αξιοποιήστε και ευθυγραμμιστείτε με υπάρχοντες σχετικούς πόρους πλαισίωσης Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης και συνεχίστε να συνεργάζεστε με ευρύτερες κοινότητες και ενδιαφερόμενους φορείς για την ανάπτυξη και υιοθέτηση βέλτιστων πρακτικών σχετικά με την συμμετοχική έρευνα που ασχολείται με την Τεχνητή Νοημοσύνη/Μηχανική Μάθηση.

Εσωτερικές Ενέργειες που Λαμβάνει η Zooniverse

  1. Υιοθετήστε ή προσαρμόστε έναν τυποποιημένο τρόπο περιγραφής της χρήσης Τεχνητής Νοημοσύνης/Μηχανικής Σχεδίασης (σε ευθυγράμμιση με την επικρατούσα γλώσσα ή την υπάρχουσα κατηγοριοποίηση) εντός της πλατφόρμας Zooniverse. Πολλές άλλες προτεινόμενες συστάσεις εξαρτώνται από την ανάπτυξη και την εφαρμογή αυτής της κατηγοριοποίησης, συμπεριλαμβανομένων προσεγγίσεων για τη διαφάνεια, την υπευθυνότητα και τη συνεπή σηματοδότηση.

  2. Αφιερώστε μια σελίδα του ιστότοπου Zooniverse σε πληροφορίες και πόρους που σχετίζονται με την Τεχνητή Νοημοσύνη/Μηχανική Μάθηση (AI/ML) και τη χρήση της στο Zooniverse. Αυτή είναι η σελίδα! Φιλοξενεί την παραπάνω κατηγοριοποίηση, τις προτάσεις της ομάδας έργου μας, καθώς και περισσότερες πληροφορίες σχετικά με τον τρόπο με τον οποίο αυτή η τεχνολογία χρησιμοποιείται (και έχει χρησιμοποιηθεί) στο Zooniverse, ποια είναι τα οφέλη και οι ανησυχίες, καθώς και πώς να αναγνωρίζετε πότε τη χρησιμοποιεί ένα έργο.

  3. Ενσωματώστε κατευθυντήριες γραμμές στην εσωτερική διαδικασία αξιολόγησης έργων της Zooniverse. Από την έναρξη αυτής της σελίδας, οι εσωτερικές διαδικασίες αξιολόγησης έχουν ενημερωθεί ώστε να αντικατοπτρίζουν τις συστάσεις που αναφέρονται εδώ. Αυτό θα διασφαλίσει την τυπική πρακτική για τους επικεφαλής έργων να μοιράζονται πληροφορίες σχετικά με τυχόν δεσμεύσεις χρήσης Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης και διακυβέρνησης δεδομένων που σχετίζονται με το έργο, ώστε να διασφαλιστεί ότι οι πιθανοί εθελοντές έχουν πρόσβαση σε αυτές τις πληροφορίες.

  4. Ετήσια αναθεώρηση της πολιτικής από την ηγετική ομάδα του Zooniverse. Καθιέρωση ενός τακτικού ρυθμού με τον οποίο αυτοί οι πόροι θα αξιολογούνται ή/και θα ενημερώνονται, π.χ. ετησίως. Έχουμε δεσμευτεί για μια ετήσια αναθεώρηση και θα δημοσιεύσουμε μια ανάρτηση ιστολογίου ή άλλη γραπτή ενημέρωση που θα συμπέσει με τυχόν ενημερώσεις που γίνονται σε αυτό το πλαίσιο στο πλαίσιο αυτής της αναθεώρησης.

Συστάσεις για ομάδες έργου

  1. Σχεδιάστε το έργο σας έχοντας κατά νου την επιλογή (του εθελοντικού οργανισμού). Αυτό απαιτεί διαφάνεια και σαφή επικοινωνία ώστε οι εθελοντές να λαμβάνουν τεκμηριωμένες αποφάσεις σχετικά με το εάν επιθυμούν να συμμετάσχουν στο έργο σας. Εάν ενσωματώνετε Τεχνητή Νοημοσύνη/Μηχανική Σχεδίασης (ΤΝ/ΜΜ) σε οποιοδήποτε στάδιο της εργασίας σας (πριν ή μετά την επεξεργασία, συστήματα ταξινόμησης ανθρώπινης παρουσίας κ.λπ.), πρέπει να παρέχετε συγκεκριμένες λεπτομέρειες σχετικά με τον τρόπο λειτουργίας αυτών των διαδικασιών και γιατί είναι απαραίτητες. Για παράδειγμα, το να πείτε "θα χρησιμοποιήσουμε τα δεδομένα που προκύπτουν για την εκπαίδευση ενός μοντέλου" δεν είναι επαρκές.

  2. Δείξτε στους εθελοντές πού/πότε/γιατί ενσωματώνεται η Τεχνητή Νοημοσύνη/Μηχανική Μάθηση στο έργο σας. Ορισμένες ροές εργασίας εντός ενός έργου ενδέχεται να εμπλέκονται/να υποβοηθούνται η Τεχνητή Νοημοσύνη/Μηχανική Μάθηση και άλλες όχι. Αυτές θα πρέπει να επισημαίνονται με σαφήνεια στο πεδίο Όνομα Ροής Εργασίας ή στην περιοχή Περιγραφή Ροής Εργασίας, ώστε οι εθελοντές να μπορούν να επιλέξουν ανάλογα (εάν έχουν κάποια προτίμηση). Εάν χρησιμοποιήσατε Τεχνητή Νοημοσύνη/Μηχανική Μάθηση για την προεπεξεργασία των δεδομένων σας, περιγράψτε ποιες είναι οι μετρήσεις ελέγχου ποιότητας (συμπεριλαμβανομένου του εάν αυτός είναι ο λόγος για τον οποίο εκτελείτε μια ροή εργασίας επικύρωσης στο Zooniverse).

  3. Λάβετε υπόψη τις συνέπειες της βελτιστοποίησης. Όταν εξετάζετε το ενδεχόμενο «μεταφοράς» εύκολων εργασιών σε Τεχνητή Νοημοσύνη/Μηχανική Μάθηση (AI/ML) και την ανάθεση σε ανθρώπους της εκτέλεσης πιο δύσκολων/πιο σύνθετων εργασιών, λάβετε υπόψη ότι οι πιο προηγμένες ροές εργασίας ενδέχεται να περιορίσουν το ποιος είναι ικανός/κατάλληλος για συμμετοχή, εκτός εάν υπάρχει onramp. Ενδέχεται να χρειαστούν εργασίες εκπαίδευσης για την απόκτηση επάρκειας για την εκτέλεση εργασιών που η AI/ML δεν μπορεί να εκτελέσει. Οποιαδήποτε διαδικασία onramp ή ροή εργασίας εκπαίδευσης θα πρέπει να επισημαίνεται με σαφήνεια, συμπεριλαμβανομένων των ροών εργασίας που χρησιμοποιούν τη λειτουργία Zooniverse Feedback.

  4. Διατήρηση πλαισίου. Για έργα που προσκαλούν εθελοντές να ασχοληθούν με ή να αναθεωρήσουν αποτελέσματα που δημιουργούνται από μηχανές, εξετάστε εάν και πώς το πλαίσιο μπορεί να επηρεάσει την εργασία—συμπεριλαμβανομένης τόσο της ποιότητας των δεδομένων όσο και της ποιότητας της εμπειρίας του εθελοντή. Για παράδειγμα, εάν μια εργασία ζητά από τους εθελοντές να αναθεωρήσουν την ποιότητα των μεταγραφών από μηχανές, αλλά περιλαμβάνει μόνο ένα μέρος του εγγράφου (π.χ. μία μόνο λέξη ή φράση), η συμπερίληψη ενός συνδέσμου προς την πλήρη εικόνα ή το έγγραφο θα διασφαλίσει ότι οι εθελοντές μπορούν να συνεχίσουν να αλληλεπιδρούν με το υλικό πηγής και το νόημά του, εάν το επιθυμούν. Αυτές οι πληροφορίες μπορούν να συμπεριληφθούν στα μεταδεδομένα ενός θέματος.

  5. Παρακολούθηση. Παρέχετε σχόλια σχετικά με τον βαθμό επιτυχίας που επιτυγχάνεται καθώς εκπαιδεύονται τα μοντέλα Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης. Η μέθοδος θα καθοριστεί από την ομάδα του έργου και μπορεί να περιλαμβάνει π.χ. μια ανάρτηση ομιλίας, ένα ενημερωτικό δελτίο μέσω ηλεκτρονικού ταχυδρομείου κ.λπ.

  6. Δημιουργήστε οδούς για την υποβολή σχολίων. Κάθε έργο με στοιχείο Τεχνητής Νοημοσύνης/Μηχανικής Σχεδίασης θα πρέπει να έχει μια διαδρομή για τους εθελοντές ώστε να μοιράζονται τα σχόλιά τους με τα μέλη της ομάδας του έργου. Για παράδειγμα, οι ομάδες μπορεί να επιθυμούν να δημιουργήσουν έναν ειδικό Πίνακα Συζήτησης για να περιγράφουν τη χρήση της Τεχνητής Νοημοσύνης/Μηχανικής Σχεδίασης, να απαντούν σε ερωτήσεις και να παρέχουν ενημερώσεις σχετικά με οποιαδήποτε εκπαίδευση ή αποτελέσματα.

  7. Αντιμετωπίστε την ποιότητα. Περιγράψτε πώς αξιολογείτε και αντιμετωπίζετε τυχόν πιθανές επιπτώσεις στην ποιότητα των δεδομένων στο έργο σας λόγω της χρήσης Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης.

  8. Όταν αποκαλύπτετε την προβλεπόμενη χρήση των αποτελεσμάτων/δεδομένων του έργου, λάβετε υπόψη πώς η προβλεπόμενη χρήση θα μπορούσε να αλλάξει με την πάροδο του χρόνου. Οι εθελοντές μπορούν να επιλέξουν να συμμετάσχουν στο έργο σας με βάση τους στόχους του έργου και τις προβλεπόμενες χρήσεις των αποτελεσμάτων/δεδομένων που αναφέρονται στη σελίδα "Πληροφορίες". Αργότερα, ποιες είναι οι πιθανότητες να επεκτείνετε αυτές τις χρήσεις;

  9. Λάβετε υπόψη τόσο τις ευκαιρίες όσο και τους πιθανούς κινδύνους από την εκτέλεση ενός έργου που ασχολείται με την Τεχνητή Νοημοσύνη/Μηχανική Μηχανική. Ενθαρρύνουμε τους ερευνητές να κατανοήσουν τους πιθανούς κινδύνους —παράλληλα με τις ευκαιρίες— πριν από την έναρξη έργων και τους παραπέμπουμε σε ελεγμένα εργαλεία και δημοσιευμένες μελέτες όπως οι Ceccaroni et al. (2019), οι οποίες παρουσιάζουν μια επισκόπηση των κινδύνων και των ευκαιριών που σχετίζονται με τη χρήση της Τεχνητής Νοημοσύνης στην επιστήμη των πολιτών, καθώς και συστάσεις για τον μετριασμό του κινδύνου.

Τα 5 βασικά σημεία των έργων που ασχολούνται με την Τεχνητή Νοημοσύνη/Μηχανική Μηχανική

Κατά την ανάπτυξη ενός νέου έργου Zooniverse που περιλαμβάνει Τεχνητή Νοημοσύνη/Μηχανική Σχεδίαση, οι ερευνητές θα πρέπει να αναλογιστούν και να είναι προετοιμασμένοι να απαντήσουν στις ακόλουθες ερωτήσεις. Ιδανικά, οι απαντήσεις σε αυτές τις ερωτήσεις θα είναι διαθέσιμες κάπου στο κείμενο του έργου (π.χ. στη σελίδα Πληροφορίες, στις Συχνές Ερωτήσεις κ.λπ.).

  • Ποιος είναι υπεύθυνος για τη διασφάλιση της ποιότητας και της ακεραιότητας των δεδομένων;
  • Ποιες τεχνικές Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης εφαρμόζονται;
  • Πότε και Πού στον κύκλο ζωής της συλλογής, επεξεργασίας και ανάλυσης δεδομένων χρησιμοποιείται η Τεχνητή Νοημοσύνη/Μηχανική Σχεδίαση; Σε ποιο/ποια σημεία/στα οποία οι εθελοντές εισέρχονται στον κύκλο ζωής; Αλληλεπιδρούν ποτέ τα δύο; Αν ναι, πώς;
  • Γιατί χρησιμοποιείται η Τεχνητή Νοημοσύνη/Μηχανική Μηχανική; Σε τι βοηθά να επιτευχθεί και ποιος ωφελείται; Πώς θα έμοιαζε η έρευνα αν δεν χρησιμοποιούνταν η Τεχνητή Νοημοσύνη/Μηχανική Μηχανική;

Τεχνητή Νοημοσύνη και Μηχανική Μάθηση στο Zooniverse

Τι είναι η Τεχνητή Νοημοσύνη; Τι είναι η Μηχανική Μάθηση;

  • Δεν υπάρχει ένας απλός, μοναδικός ορισμός, αλλά η Τεχνητή Νοημοσύνη αναφέρεται γενικά σε συστήματα υπολογιστών που έχουν σχεδιαστεί για να μιμούνται την ανθρώπινη σκέψη. Η Τεχνητή Νοημοσύνη είναι ένας ευρύς όρος που περιλαμβάνει ένα ευρύ φάσμα τεχνολογιών και εφαρμογών. Οι όροι χρησιμοποιούνται συχνά εναλλακτικά, αλλά η Μηχανική Μάθηση είναι ένα υποσύνολο της Τεχνητής Νοημοσύνης που χρησιμοποιεί δεδομένα και αλγόριθμους για να εκπαιδεύσει υπολογιστές ώστε να κάνουν ταξινομήσεις, να δημιουργούν προβλέψεις και να αποκαλύπτουν ομοιότητες ή τάσεις σε μεγάλα σύνολα δεδομένων. (Ορισμός προσαρμοσμένος από Fortson et al. (2024) και https://www.nasa.gov/what-is-artificial-intelligence).

  • Υπάρχουν διάφοροι τρόποι με τους οποίους κατηγοριοποιούνται οι μέθοδοι και οι προσεγγίσεις της Τεχνητής Νοημοσύνης/Μηχανικής Σχεδίασης (AI/ML) με βάση την τεχνολογία που χρησιμοποιείται και τις δυνατότητες αυτής της τεχνολογίας.

  • Εν μέρει επειδή η τεχνολογία εξελίσσεται τόσο γρήγορα, είναι εύκολο να μην είναι σαφές τι κάνει η Τεχνητή Νοημοσύνη. Η διαφάνεια στα έργα της Zooniverse σχετικά με το τι ακριβώς συμβάλλει αυτή η τεχνολογία και γιατί, μπορεί να βοηθήσει στην αποφυγή παρεξηγήσεων ή σύγχυσης, δημιουργώντας παράλληλα μέτρα λογοδοσίας για τις ομάδες έργων.

Πώς χρησιμοποιούνται η Τεχνητή Νοημοσύνη και η Μηχανική Μάθηση στο Zooniverse;

  • Γενικά, η Τεχνητή Νοημοσύνη/Μηχανική Μάθηση δεν ενσωματώνεται στην πλατφόρμα εκτός συγκεκριμένων χρήσεων έργων. Η ομάδα της Zooniverse δεσμεύεται για διαφάνεια και σαφή επισήμανση σε οποιεσδήποτε μελλοντικές περιπτώσεις όπου η Τεχνητή Νοημοσύνη/Μηχανική Μάθηση χρησιμοποιείται εκτός συγκεκριμένων έργων.

  • Οι χρήσεις της Τεχνητής Νοημοσύνης/Μηχανικής Σχεδίασης (ΤΝ/ΜΜ) θα διαφέρουν μεταξύ των έργων.

  • Η Τεχνητή Νοημοσύνη/Μηχανική Μάθηση (ΤΝ/ΜΜ) ενσωματώνεται σε ορισμένα συγκεκριμένα έργα του Zooniverse για να συμπληρώσει την ερευνητική υποστήριξη που παρέχεται από τους εθελοντές, επεξεργάζοντας δεδομένα πριν ή μετά την ολοκλήρωση των εργασιών των εθελοντών. Ορισμένα έργα περιλαμβάνουν στοιχεία ενεργητικής μάθησης που υποστηρίζουν μεθόδους ανθρώπινης παρέμβασης (human-in-the-loop) ΤΝ/ΜΜ, οι οποίες ενσωματώνουν την εισροή εθελοντών σε αυτοματοποιημένες διαδικασίες για την αύξηση της ποιότητας των αποτελεσμάτων.

  • Μερικά παραδείγματα:

    • Χωρίς Τεχνητή Νοημοσύνη/Μηχανική Μάθηση. Οι εθελοντές ταξινομούν τα άτομα. Δεν υπάρχει προηγούμενος ή προβλεπόμενος ρόλος στην Τεχνητή Νοημοσύνη/Μηχανική Μάθηση.

    • Η Τεχνητή Νοημοσύνη/Μηχανική Μηχανική (AI/ML) προ-ταξινομεί θέματα. Οι εθελοντές ταξινομούν θέματα που έχουν προ-ταξινομηθεί ή φιλτραριστεί από μηχανές. Παραδείγματα περιλαμβάνουν την αφαίρεση κενών (εικόνες χωρίς σχετικό περιεχόμενο) και τη δημιουργία ταξινομήσεων υψηλού επιπέδου, ώστε οι εθελοντές να μπορούν να επικεντρώσουν τις προσπάθειές τους σε πιο απαιτητικές εργασίες.

    • Εκπαίδευση στην Τεχνητή Νοημοσύνη/Μηχανική Μάθηση. Οι εθελοντές ταξινομούν τα θέματα και οι μηχανές μαθαίνουν από τα μοτίβα με στόχο η Τεχνητή Νοημοσύνη/Μηχανική Μάθηση να αναλάβει τις εργασίες.

    • Η Τεχνητή Νοημοσύνη/Μηχανική Μάθηση (ΤΝ/ΜΜ) ελέγχεται ποιοτικά. Οι εθελοντές εξετάζουν και κάνουν διορθώσεις σε ταξινομήσεις που δημιουργούνται από μηχανήματα, συμβάλλοντας στη βελτίωση της ΤΝ/ΜΜ με την πάροδο του χρόνου.

    • Οι εθελοντές αξιολογούν ασυνήθιστα ή ανώμαλα θέματα που εμπόδισαν τη λειτουργία του μηχανήματος.

  • Εάν οι ομάδες έργου επιλέξουν να χρησιμοποιήσουν Τεχνητή Νοημοσύνη για τη δημιουργία περιεχομένου έργου, υποχρεούνται να αποκαλύψουν αυτές τις πληροφορίες στη σελίδα που περιέχει το περιεχόμενο που δημιουργείται από την Τεχνητή Νοημοσύνη. Αυτό μπορεί να περιλαμβάνει π.χ. κείμενο έργου, avatar, εικόνες πολυμέσων, μεταφράσεις ή/και δεδομένα έργου.

Ποια είναι τα οφέλη και οι ανησυχίες σχετικά με τη χρήση της Τεχνητής Νοημοσύνης και της Μηχανικής Μάθησης στο Zooniverse;

  • Η Τεχνητή Νοημοσύνη/Μηχανική Μηχανική μπορεί να προσθέσει ταχύτητα και ισχύ στην ικανότητά μας να δημιουργούμε, να επεξεργαζόμαστε και να αναλύουμε δεδομένα. Με τη σειρά μας, μπορούμε να θέτουμε νέα ερωτήματα και να λαμβάνουμε απαντήσεις πιο γρήγορα.

  • Η ανάθεση ορισμένων εργασιών σε μηχανές μπορεί να επιτρέψει στους ανθρώπους να επικεντρωθούν σε πιο δημιουργικές ή σύνθετες εργασίες. Οι συστάσεις μας επισημαίνουν ότι οι ομάδες έργου θα πρέπει να είναι προσεκτικές ώστε να μην κάνουν υπερβολική βελτιστοποίηση, ωστόσο, καθώς η συμμετοχή σε επίπεδο εισαγωγικού επιπέδου είναι ζωτικής σημασίας για την ευρεία πρόσβαση στα έργα.

  • Είναι απαραίτητο να ενσωματωθεί η ανθρώπινη εποπτεία σε κάποιο στάδιο για την αξιολόγηση και τη διασφάλιση της ποιότητας των δεδομένων.

  • Η ανάπτυξη και η χρήση ορισμένων τύπων Τεχνητής Νοημοσύνης/Μηχανικής Σχεδίασης (ΤΝ/ΜΜ) μπορεί να απαιτεί ενέργεια και πόρους.

Γιατί οι ομάδες έργων χρειάζονται ή θέλουν να χρησιμοποιήσουν Τεχνητή Νοημοσύνη και Μηχανική Μάθηση στο Zooniverse;

  • Ακόμα και με τη δύναμη του Zooniverse, πολλές ομάδες έργων εργάζονται με τεράστια και πολύπλοκα σύνολα δεδομένων. Στις περισσότερες περιπτώσεις, οι ερευνητές διαπιστώνουν ότι οι άνθρωποι και οι μηχανές που συνεργάζονται παράγουν δεδομένα υψηλότερης ποιότητας από ό,τι το καθένα ξεχωριστά. Τα συστήματα ανθρώπου-μηχανής μπορούν επίσης να βοηθήσουν στην επιτάχυνση των χρονοδιαγραμμάτων των έργων και να επιτρέψουν στους ερευνητές να επιτύχουν αποτελέσματα νωρίτερα από ό,τι με την ανθρώπινη ταξινόμηση μόνο.

  • Υπάρχουν πολλές δημοσιεύσεις που περιγράφουν λεπτομερώς τις επιτυχίες στον συνδυασμό ταξινόμησης ανθρώπου-μηχανής, οι οποίες είναι διαθέσιμες στη σελίδα δημοσιεύσεων του Zooniverse.

Πώς μπορώ να ξέρω πότε ένα έργο χρησιμοποιεί Τεχνητή Νοημοσύνη ή Μηχανική Μάθηση;

  • Είναι ευθύνη των ομάδων έργου να υποδεικνύουν με σαφήνεια σε κάποιο σημείο της αρχικής σελίδας εάν το έργο τους χρησιμοποιεί Τεχνητή Νοημοσύνη/Μηχανική Σχεδίαση (ΤΝ/ΜΜ). Επιπλέον, εάν ένα έργο έχει πολλαπλές ροές εργασίας, οι ομάδες θα πρέπει να διακρίνουν μεταξύ των ροών εργασίας που ενσωματώνουν ΤΝ/ΜΜ και εκείνων που δεν την ενσωματώνουν.

  • Οι ομάδες υποχρεούνται επίσης να παρέχουν λεπτομέρειες σχετικά με το γιατί και πώς ενσωματώνονται η Τεχνητή Νοημοσύνη/Μηχανική Μάθηση στα έργα τους. Αυτές οι πληροφορίες θα εμφανίζονται στη σελίδα Πληροφορίες για το έργο.

  • Εάν η εκπαίδευση ενός μοντέλου Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης (AI/ML) αποτελεί στόχο του έργου, οι ομάδες αναμένεται να παρέχουν ενημερώσεις σχετικά με αυτήν τη διαδικασία ως μέρος της σελίδας Αποτελεσμάτων, όταν αυτές είναι διαθέσιμες.

  • Εάν ποτέ δεν είστε σίγουροι εάν ένα έργο χρησιμοποιεί Τεχνητή Νοημοσύνη/Μηχανική Μηχανική, μη διστάσετε να δημοσιεύσετε μια ανάρτηση στους πίνακες συζήτησης του έργου και να ρωτήσετε απευθείας την ερευνητική ομάδα.

Πώς διασφαλίζει η Zooniverse ότι αυτές οι τεχνολογίες χρησιμοποιούνται με ασφάλεια και ηθικά;

Τι γίνεται με την Τεχνητή Νοημοσύνη και τη Μηχανική Μάθηση εκτός του Zooniverse; Μήπως οι ταξινομήσεις μου βρίσκουν χώρο και σε πρωτοβουλίες Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης εκτός του Zooniverse;

  • Εμείς, ως κοινότητα του Zooniverse, έχουμε τον έλεγχο του πώς χρησιμοποιούμε ή όχι την Τεχνητή Νοημοσύνη/Μηχανική Μηχανική στην πλατφόρμα και στα έργα. Ωστόσο, έχουμε ελάχιστο έλεγχο στο πώς άλλοι ενδέχεται να χρησιμοποιούν τα δεδομένα του έργου, ειδικά από τη στιγμή που αυτά δημοσιοποιούνται.

  • Οι τρέχουσες Πολιτικές Δημιουργού Έργων της Zooniverse ορίζουν ότι οι ομάδες έργων πρέπει να «ανοίγουν τα δεδομένα ταξινόμησής τους μετά από μια περίοδο ιδιόκτητης ιδιοκτησίας, η οποία συνήθως διαρκεί δύο χρόνια από την έναρξη του έργου».

  • Τα ανοιχτά δεδομένα επιτρέπουν την αμοιβαιότητα, την άμεση ικανοποίηση και την ταχεία χρήση των δεδομένων για τη λήψη αποφάσεων ή την ανάληψη δράσης. Μπορούν επίσης να βοηθήσουν στη διατήρηση των δεδομένων, καθώς τα δεδομένα είναι λιγότερο πιθανό να χαθούν εάν φυλάσσονται σε ένα αποθετήριο ή εάν άλλοι έχουν δημιουργήσει αντίγραφα. Ωστόσο, σημαίνει επίσης ότι άλλα άτομα, οργανισμοί ή εταιρείες μπορούν να χρησιμοποιήσουν δεδομένα που παράγονται μέσω έργων του Zooniverse για λόγους διαφορετικούς από τους δηλωμένους ερευνητικούς στόχους.

  • Για να μειωθεί η ακούσια χρήση δεδομένων έργου (π.χ. για εμπορικούς σκοπούς), ορισμένες ομάδες επιλέγουν να εφαρμόσουν συμφωνίες αδειοδότησης δεδομένων στα δεδομένα του έργου τους (όπως π.χ. Creative Commons) ή να τα κοινοποιήσουν μόνο κατόπιν αιτήματος.

  • Οι ομάδες έργου αναμένεται να κοινοποιήσουν τα σχέδιά τους για τη χρήση και την αποθήκευση δεδομένων στη σελίδα "Πληροφορίες για το έργο".

  • Εάν δεν είστε σίγουροι για τα σχέδια ενός έργου σχετικά με την κοινή χρήση δεδομένων ή/και την αδειοδότηση, μη διστάσετε να δημοσιεύσετε στα φόρουμ συζήτησης του έργου και να ρωτήσετε απευθείας την ερευνητική ομάδα.

Πόροι

Μάθετε περισσότερα για την Τεχνητή Νοημοσύνη/Μηχανική Μάθηση (AI/ML)

Μάθετε περισσότερα για την ηθική και την συμμετοχική επιστήμη

Παραδείγματα έργων Zooniverse με λεπτομερείς εξηγήσεις για τη χρήση Τεχνητής Νοημοσύνης/Μηχανικής Μάθησης

Παραδείγματα δηλώσεων ευθύνης για την Τεχνητή Νοημοσύνη/Μηχανική Μάθηση του έργου Zooniverse

Συχνές ερωτήσεις

Δεν βλέπετε την απάντηση στην ερώτησή σας εδώ; Στείλτε μας τις ερωτήσεις σας στη διεύθυνση contact@zooniverse.org! Θα ενημερώσουμε αυτήν τη λίστα όποτε χρειάζεται.

  • Είμαι εθελοντής και χρειάζομαι βοήθεια με την ταξινόμηση σε ένα έργο. Μπορώ να χρησιμοποιήσω εργαλεία γενετικής τεχνητής νοημοσύνης όπως το ChatGPT ή το Gemini για να με βοηθήσουν;

    • Όχι. Οι ερευνητές έρχονται στο Zooniverse επειδή θέλουν ανθρώπινη συμμετοχή στη διαδικασία τους. Εκτός εάν τους δοθεί ρητή άδεια για αυτό, οι εθελοντές δεν πρέπει να χρησιμοποιούν εργαλεία γενετικής τεχνητής νοημοσύνης εξωτερικά του Zooniverse για να βοηθήσουν στις προσπάθειες ταξινόμησής τους.

  • I’m experimenting with using and interacting with AI agents. Can I use these agents in conjunction with a Zooniverse account, e.g., to classify on Zooniverse projects, or post on Zooniverse Talk boards?

    • No. AI agents should not be granted access to Zooniverse accounts. Unless explicitly granted permission to do so, AI agents should not aid in classification efforts or engage on Talk boards.

  • I want to find out if a Zooniverse project is using AI or Machine Learning. How do I find that information?

    • Start by scanning the project home page, especially the Project Description and any Workflow Description. If you’re still not sure, look at the About page, as well as the project Tutorial(s). If you’re still not sure after that, you can ask on Talk, but part of the purpose for this framework is to help make sure all projects are clearly communicating how they are (or aren’t) using this technology.

    • If you think a project is not appropriately disclosing AI/ML use, we hope you’ll feel comfortable approaching the research team on Talk and suggesting some changes or expressing your uncertainty. If you don’t feel comfortable doing so, you can also send us a message at contact@zooniverse.org and we will look into it. Part of this work includes updating our internal review processes, so your feedback will help us know whether our new processes are effective.

Σχετικά με αυτό το Πλαίσιο

Τα τελευταία 15 χρόνια, ερευνητικές ομάδες έχουν ενσωματώσει τη μηχανική μάθηση (ML) σε ένα ευρύ φάσμα έργων του Zooniverse και σε διάφορα στάδια. Περίπου το ένα τρίτο όλων των ενεργών έργων του Zooniverse ενσωματώνει πλέον τη μηχανική μάθηση με κάποιο τρόπο. Καθώς αυτές οι τεχνολογίες έχουν ωριμάσει και η ευαισθητοποίηση του κοινού για την ύπαρξή τους έχει αυξηθεί, τα πρόσφατα σχόλια εθελοντών του Zooniverse τόνισαν την ανάγκη για μεγαλύτερη διαφάνεια σχετικά με τη χρήση της «Τεχνητής Νοημοσύνης» στην πλατφόρμα μας. Επιδιώξαμε να αντιμετωπίσουμε αυτές τις ανησυχίες θεσπίζοντας ένα σαφές, τυποποιημένο πλαίσιο για την ηθική εφαρμογή της ΤΝ/ML σε έργα του Zooniverse, διασφαλίζοντας ότι οι ερευνητές μπορούν να επικοινωνούν αποτελεσματικά τις μεθοδολογίες τους διατηρώντας παράλληλα την εμπιστοσύνη και τη συνεργασία της εθελοντικής μας κοινότητας. Με χρηματοδότηση από το Ίδρυμα Kavli, δημιουργήσαμε το πρώτο πλαίσιο ηθικής ΤΝ/ML για το Zooniverse, το οποίο ξεκινήσαμε το 2026. Αυτό το πλαίσιο παρουσιάζεται εδώ και θα ενημερώνεται ετησίως, ανάλογα με τις ανάγκες.

Για την ανάπτυξη αυτού του πλαισίου, διοργανώσαμε μια σειρά από εικονικά εργαστήρια με τη συμμετοχή ειδικών σε θέματα, ηγεσίας του Zooniverse, επικεφαλής έργων, εξωτερικών ερευνητών και εθελοντών. Τα εργαστήρια πραγματοποιήθηκαν καθ' όλη τη διάρκεια του 2025 και επικεντρώθηκαν σε τέσσερα βασικά θέματα: την καθιέρωση βέλτιστων πρακτικών για τη διαφάνεια και την επικοινωνία, τον εντοπισμό ηθικών προσεγγίσεων στη μηχανική μάθηση που εξισορροπούν τον κίνδυνο και την ευκαιρία, την εμβάθυνση της κατανόησης αυτών των ηθικών προσεγγίσεων στο πλαίσιο των συμφραζόμενων και την εξέταση των προκλήσεων της προστασίας δεδομένων κατάντη.

Για να συμπεριλάβουμε πληροφορίες από μια ευρύτερη ομάδα από αυτήν που θα μπορούσε να συμμετάσχει άμεσα στα εργαστήρια, στείλαμε ερωτηματολόγια σε ολόκληρη την κοινότητα του Zooniverse. Τα αποτελέσματα αυτών των ερευνών διαμόρφωσαν τη στρατηγική μας κατεύθυνση. Μετά από κάθε εργαστήριο, μια μικρότερη ομάδα συγκεντρώθηκε για να μετατρέψει τη συζήτηση σε βασικά θέματα και εφαρμόσιμα αποτελέσματα. Τα αποτελέσματα κοινοποιήθηκαν σε όλους τους συμμετέχοντες στο εργαστήριο, οι οποίοι είχαν την ευκαιρία να παρέχουν σχόλια, διορθώσεις και προσθήκες.

Τα αποτελέσματα περιλαμβάνουν: βασικές αρχές που χρησιμεύουν ως πλαίσιο και συνοψίζουν τους γενικούς στόχους· συστάσεις για εσωτερικές ενέργειες που θα αναλάβει η πλατφόρμα Zooniverse, οι οποίες θα διευκολύνουν τις συστάσεις για τις ομάδες έργου· και συστάσεις που πρέπει να λάβουν οι ομάδες έργου κατά την ενσωμάτωση της Τεχνητής Νοημοσύνης/Μηχανικής Σχεδίασης (ΤΝ/ΜΜ) σε έργα της Zooniverse.

Ομάδα Έργου

  • Κύριος Ερευνητής: Samantha Blickhan (Zooniverse Co-Director and Humanities Lead, Adler Planetarium)

  • Συντονιστής Έργου: Hillary Burgess (Hillary Burgess, LLC)

  • Συντονιστής και Αξιολογητής: Tanisha Tate Woodson (Catalyst Consulting)

  • Βοηθοί Έρευνας: Kaylene Caswell Stocking (Graduate Fellow, UC-Berkeley Kavli Center for Ethics, Science, and the Public), Chad Harper (Graduate Fellow, UC-Berkeley Kavli Center for Ethics, Science, and the Public)

Σύμβουλοι Έργου

  • Abigail Vieregg (David N. Schramm Director of the Kavli Institute for Cosmological Physics; Professor, Physics, Astronomy and Astrophysics, Enrico Fermi Institute, University of Chicago)

  • Cliff Johnson (Zooniverse Co-Director and Science Lead, Adler Planetarium)

  • Laura Trouille (Zooniverse PI, The Adler Planetarium)

  • Lea Witkowsky (Executive Director, UC-Berkeley Kavli Center for Ethics, Science, and the Public)

  • Lucy Fortson (Zooniverse co-founder, Professor of Physics and Astronomy at the University of Minnesota)

Χρηματοδότηση

Αυτό το έργο υποστηρίζεται από το Ίδρυμα Kavli, με αριθμό βραβείου SS-2025-GR-05-3064.

Ευχαριστίες

Η ομάδα του Zooniverse θα ήθελε να αναγνωρίσει τα ακόλουθα άτομα για τη συμμετοχή τους στα εικονικά εργαστήρια που οδήγησαν στην ανάπτυξη αυτών των συστάσεων:

  • Abigail Cecilia Zesati
  • Andrea Grover
  • Andrew Piper
  • Antonio Pasqua
  • Bruce Catter
  • Caroline Nickerson
  • Carrie Seltzer
  • Chris Lintott
  • Damian Sheils
  • Gwen Shafer
  • Harman Kaur
  • Harry Smith
  • Hasret Balcioglu
  • Hayley Roberts
  • Julia Brown
  • Julia Parrish
  • Katina Michael
  • Kirstie Whitaker
  • Lea Shanley
  • Lindsay House
  • Liz Dowthwaite
  • Lu Cheng
  • Lynn Arneill-Brown
  • Marisa Ponti
  • Mark Basham
  • Muireann Nic Corcrain
  • Michael Corey
  • Monica Granados
  • Pen-Yuan Hsing
  • Peter Mason
  • Ramana Sankar
  • Rob Guralnick
  • Rosemary Johnson
  • Sadie Coffin
  • Sallie Taylerson
  • Sandy Harris
  • Sara Brumfield
  • Sarah Kirn
Zooniverse AI Ethics Framework | Zooniverse