Η OpenAI προβλέπει έσοδα 1 δισεκατομμυρίου δολαρίων έως το 2024 από το ChatGPT

Χρησιμοποίησα το ChatGPT.

Για κώδικα που χρειάστηκα μήνες να γράψω μου τον έγραψε σε δευτερόλεπτα.

Είναι καταπληκτικό αλλά μην ξεχνάμε ότι:

- Χρειάζονται γνώσεις για να τρέξει κάποιος τον κώδικα

- Ο κώδικας που γράφει το ChatGPT μας γλιτώνει χρόνο,ωστόσο θέλει μετά αρκετή δουλειά για να καλύψει τις ανάγκες μας

- Πλέον ο κάθε προγραμματιστής θα μπορεί να ανταγωνιστεί μια εταιρεία, τουλάχιστον σε απλές εφαρμογές.

Έχει παρατηρήσει κανείς ότι το chatgpt είναι biased στα κοινωνικά θέματα;

Σε κάποια θέματα όποια ερώτηση και να κάνω αποφεύγει να μου απαντήσει.

Έχω πλέον βάσιμες υποψίες ότι έχουν περάσει στο chatgpt και τις "οδηγίες" που έχουν περάσει στα υπόλοιπα ΜΜΕ.

Απλό παράδειγμα:

Q - What is the fertility rate in Greece;

ChatGPT - According to data from the World Bank, the fertility rate in Greece has been steadily declining in recent decades. In 2019, the fertility rate in Greece was 1.34 children per woman, which is below the replacement level of 2.1 children per woman needed to maintain the population size.

Q- What is the Roma fertility rate?

ChatGPT - It is difficult to provide a fertility rate for Roma as a whole, as Roma are a diverse group of people with a complex history and cultural traditions. Fertility rates, like any other demographic characteristic, can vary widely within any group, and can be influenced by a variety of factors, including age, education, income, and other socio-economic characteristics.

9 minutes ago, sdim said:

Έχει παρατηρήσει κανείς ότι το chatgpt είναι biased στα κοινωνικά θέματα;

Σε κάποια θέματα όποια ερώτηση και να κάνω αποφεύγει να μου απαντήσει.

Έχω πλέον βάσιμες υποψίες ότι έχουν περάσει στο chatgpt και τις "οδηγίες" που έχουν περάσει στα υπόλοιπα ΜΜΕ.

Έχεις αναρωτηθεί μήπως απλώς προβάλλεις σε κάποιον βαθμό το δικό σου "bias"; Σε ό,τι ρωτάς η απάντηση είναι μια χαρά -και μπαίνει στον κόπο να γράψει κάτι που είναι εν πολλοίς σωστό, πέρα από κοινωνικά ευαίσθητο. Θα μπορούσε εύκολα να απαντά μπούρδες.

Αλλά ας πούμε για την οικονομία της συζήτησης ότι έχει ενσωματώσει τις προκαταλήψεις των προγραμματιστών του. Δεν είναι προτιμότερη αυτή η -κατά κάποιους- "πολιτική ορθότητα" από το ενδεχόμενο να το άφηναν ή να το εκπαίδευαν να γίνει άλλο ένα νεο-ναζιστικό μποτ;

Τέλος πάντων, είναι ένα εργαλείο κλειστού κώδικα και καλό είναι όποιος το χρησιμοποιεί να το κάνει διερευνητικά, επιδιώκοντας να διασταυρώνει τις απαντήσεις με πρωτογενείς πηγές. Μπορεί να είναι ικανότερο από πολλούς ανθρώπους, αλλά δεν είναι πάντα ευφυέστερο.

Για του λόγου το αληθές:

1 ώρα πριν, το μέλος sdim έγραψε:

Έχει παρατηρήσει κανείς ότι το chatgpt είναι biased στα κοινωνικά θέματα;

 

Ρε συ ένα beta μοντέλο είναι με αρκετούς περιορισμούς. Tι "ατζεντα" και "οδηγίες"?

Παίρνεις τέτοια απάντηση γιατί μάλλον δεν έχει αριθμό να σου δώσει οπότε κάνει generate μια απαντηση γενικού τύπου.

Έκανα την ερώτηση που έκανες και εσύ. Που είναι το bias?
 

Λέω ότι είναι biased για πολλούς λόγους. Οι 4 κύριοι είναι:

1. Χρησιμοποίησα την λέξη gypsies πριν χρησιμοποιήσω την λέξη roma και μου απάντησε μεταξύ των άλλων " it is important to recognize that it is not appropriate or respectful to refer to people as "gypsies," as this term is often used as a pejorative and carries negative connotations."

2. Στην συζήτηση για το fertility rate, στην οποία όμως είχα αναφέρει τους roma και τους παράνομους μετανάστες, του έβαλα το εξής πρόβλημα:

"Έστω ότι έχουμε δύο ομάδες, Α και Β.

Η Α αποτελεί το 90% του πληθυσμού ενώ η Β το 10%.

Στην ομάδα Α κάνουν παιδιά στα 30, στην ομάδα Β στα 17. To fertility rate της ομάδας A είναι 1.4.

Ποιο πρέπει να είναι το fertility rate της ομάδας Β ώστε να εξισωθεί ο πληθυσμός των δύο ομάδων σε 50 χρόνια;"

Αρχικά απέφυγε να μου απαντήσει, έλεγε ότι δεν μπορείς να γενικεύεις και τέλος πάντων όπως και να το ρώτησα πλαγίως δεν πήρα απάντηση.

Ξεκινάω νέα συζήτηση αργότερα, κάνω ΚΑΤΕΥΘΕΙΑΝ την ίδια ερώτηση  (χωρίς να έχω συζητήσει το "ευαίσθητο" θέμα) και μου κάνει κανονικά τους υπολογισμούς.

3. Σε συζήτηση για την μετανάστευση, αρνείται πεισματικά να κάνει την διάκριση του πρόσφυγα (refugee, μετανάστης που ΑΝΑΓΚΑΖΕΤΑΙ να πάει σε άλλη χώρα επειδή η χώρα του είναι σε πόλεμο, είναι διωκόμενος για πολιτικές απόψεις, κλπ) και του παράνομου μετανάστη (illegal immigrant, μετανάστης που ΕΠΙΛΕΓΕΙ να πάει σε άλλη χώρα για καλύτερη ζωή χωρίς όμως να έχει τα απαραίτητα έγγραφα, διαβατήριο, visa, βιβλιάριο υγείας, κλπ).

Απαντάει διπλωματικά με τον ίδιο τρόπο που χειρίζονται την κατάσταση οι ΜΚΟ.

4. ΤΟ ΒΑΣΙΚΟΤΕΡΟ: ως μοντέλο τεχνητής νοημοσύνης έχει εκπαιδευτεί με βάση την υφιστάμενη γραπτή γνώση, δηλαδή με ότι είναι καταγεγραμμένο σε βιβλία, περιοδικά, ιστοσελίδες, κλπ.

Από την στιγμή που σε όλες τις επίσημες πηγές κάποια θέματα έχουν μια συγκεκριμένη γραμμή, είναι ΔΕΔΟΜΕΝΟ ότι και το μοντέλο τεχνητής νοημοσύνης που θα μάθει από αυτές τις πηγές θα εμπεδώσει αυτή την γραμμή.

update: έχει γίνει θέμα κατά περιόδους το γεγονός ότι κάποιο μοντέλα τεχνητής νοημοσύνης είναι "ρατσιστικά", με βάση π.χ. το γένος ή το χρώμα.

Μια απλή αναζήτηση στο google για RACIST AI βγάζει 435.000.000 αποτελέσματα.

Σε πολλά άρθρα αναφέρεται ότι ήταν biased το dataset. Το μοντέλο σκέφτεται με βάση αυτά από τα οποία  έμαθε.

2 ώρες πριν, το μέλος sdim έγραψε:

Λέω ότι είναι biased για πολλούς λόγους. Οι 4 κύριοι είναι:

 

1. Χρησιμοποίησα την λέξη gypsies πριν χρησιμοποιήσω την λέξη roma και μου απάντησε μεταξύ των άλλων " it is important to recognize that it is not appropriate or respectful to refer to people as "gypsies," as this term is often used as a pejorative and carries negative connotations."

 

2. Στην συζήτηση για το fertility rate, στην οποία όμως είχα αναφέρει τους roma και τους παράνομους μετανάστες, του έβαλα το εξής πρόβλημα:

"Έστω ότι έχουμε δύο ομάδες, Α και Β.

Η Α αποτελεί το 90% του πληθυσμού ενώ η Β το 10%.

Στην ομάδα Α κάνουν παιδιά στα 30, στην ομάδα Β στα 17. To fertility rate της ομάδας A είναι 1.4.

Ποιο πρέπει να είναι το fertility rate της ομάδας Β ώστε να εξισωθεί ο πληθυσμός των δύο ομάδων σε 50 χρόνια;"

 

Αρχικά απέφυγε να μου απαντήσει, έλεγε ότι δεν μπορείς να γενικεύεις και τέλος πάντων όπως και να το ρώτησα πλαγίως δεν πήρα απάντηση.

Ξεκινάω νέα συζήτηση αργότερα, κάνω ΚΑΤΕΥΘΕΙΑΝ την ίδια ερώτηση  (χωρίς να έχω συζητήσει το "ευαίσθητο" θέμα) και μου κάνει κανονικά τους υπολογισμούς.

 

 

3. Σε συζήτηση για την μετανάστευση, αρνείται πεισματικά να κάνει την διάκριση του πρόσφυγα (refugee, μετανάστης που ΑΝΑΓΚΑΖΕΤΑΙ να πάει σε άλλη χώρα επειδή η χώρα του είναι σε πόλεμο, είναι διωκόμενος για πολιτικές απόψεις, κλπ) και του παράνομου μετανάστη (illegal immigrant, μετανάστης που ΕΠΙΛΕΓΕΙ να πάει σε άλλη χώρα για καλύτερη ζωή χωρίς όμως να έχει τα απαραίτητα έγγραφα, διαβατήριο, visa, βιβλιάριο υγείας, κλπ).

Απαντάει διπλωματικά με τον ίδιο τρόπο που χειρίζονται την κατάσταση οι ΜΚΟ.

 

4. ΤΟ ΒΑΣΙΚΟΤΕΡΟ: ως μοντέλο τεχνητής νοημοσύνης έχει εκπαιδευτεί με βάση την υφιστάμενη γραπτή γνώση, δηλαδή με ότι είναι καταγεγραμμένο σε βιβλία, περιοδικά, ιστοσελίδες, κλπ.

Από την στιγμή που σε όλες τις επίσημες πηγές κάποια θέματα έχουν μια συγκεκριμένη γραμμή, είναι ΔΕΔΟΜΕΝΟ ότι και το μοντέλο τεχνητής νοημοσύνης που θα μάθει από αυτές τις πηγές θα εμπεδώσει αυτή την γραμμή.

 

update: έχει γίνει θέμα κατά περιόδους το γεγονός ότι κάποιο μοντέλα τεχνητής νοημοσύνης είναι "ρατσιστικά", με βάση π.χ. το γένος ή το χρώμα.

Μια απλή αναζήτηση στο google για RACIST AI βγάζει 435.000.000 αποτελέσματα.

Σε πολλά άρθρα αναφέρεται ότι ήταν biased το dataset. Το μοντέλο σκέφτεται με βάση αυτά από τα οποία  έμαθε.

Δηλαδή για να καταλάβω, σε πειράζει που ένα λογισμικό το οποίο έχει φτιαχτεί ώστε να είναι resistant σε ακροδεξιό λόγο δεν παράγει αρκετά ρατσιστικές απαντήσεις;

Είναι tuned έτσι γιατί υπάρχει track record με chatbots (οχι ΑΙ, ελεος) τα οποία δέχτηκαν συντονισμένες επιθέσεις. 

Πχ το bot της MS παλαιότερα το οποίο χρησιμοποιούσε τα interactions για training , είχε δεχτει οργανωμένη επίθεση από ακροδεξιές ομάδες χρηστών και ουσιαστικά αχρηστευτηκε μέσα σε ένα 24ώρο.

Ξέροντας από πριν τι μπορεί να γίνει και έχοντας να πουλήσουν ένα προϊόν που τους κοστίζει δις δολάρια δεν θέλουν να δολοφονηθεί η δημόσια εικόνα του. 

Για τις υπόλοιπες περιπτώσεις, αν θέλεις μπορούμε να τις αναλύσουμε μιας προς μια και θα δεις και παλι οτι ο κώδικας σε μοντέλα machine learning δεν τείνει στο να γίνει ρατσιστικός. Το μοντέλο δεν σκεφτεται, το μοντέλο είναι κώδικας που τρέχει πάνω σε ένα backend. Aν είχε skewed data για οποιονδήποτε λόγο θα παράγει skewed αποτελέσματα. Όπως τα προβλήματα που είχε το face detect software, η αναγνώριση πεζών, κλπ. Αν και σε μεγάλο βαθμό τα θέματα αυτά έχουν λυθεί,  το ζήτημα για equal representation σε datasets παραμένει. 

Αν χρησιμοποιείς ρατσιστικό context, λογικό είναι να παράγει "πυροσβεστικό" response.  Στην δική σου περίπτωση, πέρα απ τον τρόπο που έκανες την ερώτηση, δεν έχει τα data που ζητάς, το λέει ξεκάθαρα και σε παραπέμπει στην ΕΛΣΤΑΤ κλπ.

Υπάρχουν όμως παραδείγματα με χρήστες που κατάφεραν να το κάνουν να εκφέρει ρατσιστικό λόγο αλλά με αρκετά πιο πλάγιο τρόπο από τον δικό σου.

Τέλος, το dataset του gpt δεν είναι η διαθεσιμη γνώση του συμπαντος αλλά ένα πολύ μικρό μέρος από crawled data στο internet. Μιλάμε για beta λογισμικό. Όχι τον HAL9000. 

Κατ'αρχάς δεν έκανα ρατσιστική συζήτηση.

Τι θεωρείται ρατσιστικό από αυτά που ανάφερα;

1. Η λέξη "gypsies" χρησιμοποιείται και επίσημα στην Ευρωπαϊκή ένωση για συγκεκριμένες μειονότητες, π.χ. εδώ: https://ec.europa.eu/migrant-integration/integration-practice/gypsies-and-travelers-mythsand-facts_en

Σύμφωνα με μια έκθεση που βρήκα εκτιμάται ότι στην Ελλάδα βρίσκονται 160.000 με 200.000 ρομά. https://web.archive.org/web/20200222004541/https://www.synigoros.gr/resources/roma/sxetika-genika-eggrafa/romareport.pdf. Είναι δημόσια στοιχεία, δεν είναι κάτι το απόρρητο ούτε κάτι το κατακριτέο.

2. Η έννοια "illegal immigrants" υπάρχει και είναι γενικά αποδεκτό ότι συνοδεύεται από πολλές παράνομες και ανήθικες δραστηριότητες. Πολλοί διακινητές ασχολούνται και με άλλες εγκληματικές δραστηριότητες που περιλαμβάνουν την εκμετάλλευση των αδύναμων, παιδιών, γυναικών κλπ. Σε εμάς θα φτάσουν μόνο όσοι δεν τους είναι κερδοφόροι με άλλους τρόπους.

Η παράνομη/παράτυπη μετανάστευση είναι παράθυρο για τόση εκμετάλλευση του ανθρώπινου πόνου που δεν είναι ακροδεξιό να είναι κάποιος κατά της παράνομης/παράτυπης μετανάστασης, είναι απάνθρωπο κάποιος να κάνει τα στραβά μάτια στην εκμετάλλευσή τους.

Το "ρατσιστικό" context δυστυχώς υπάρχει παντού. Στην ιστορία το πολιτικά ορθό ή λάθος αναδιαμορφώνεται δυναμικά. Κάτι που είναι τώρα πολιτικά ορθό ήταν πριν λίγα χρόνια κατακριτέο και το αντίθετο.

Σε κάποια θέματα δεν θα υπάρχει αντικειμενικά "σωστό" ή "λάθος" καθώς προωθούνται διαφορετικές ή και ευρύτερου πεδίου απόψεις.

Το γεγονός είναι ότι πλέον η πληροφορία τείνει να γίνει biased προς της άποψη αυτού που ελέγχει την πληροφορία που μπαίνει στο σύστημα. Αν θέλουν αύριο μπορούν αφαιρέσουν ή να προσθέσουν επιλεκτικά πληροφορίες στο dataset και να εκπαιδεύσουν ξανά ένα μοντέλο ώστε να ασπαστεί τις απόψεις τους.

Αν δει ο Elon Musk το post σου, βλέπω να βαφτίζει την τελική έκδοση του ChatGPT HAL9000 και να σου δίνει και χαρτζιλίκι για την ιδέα

1 ώρα πριν, το μέλος sdim έγραψε:

Αν θέλουν αύριο μπορούν αφαιρέσουν ή να προσθέσουν επιλεκτικά πληροφορίες στο dataset και να εκπαιδεύσουν ξανά ένα μοντέλο ώστε να ασπαστεί τις απόψεις τους.

 

Για τους όρους που αναφέρεις, και οι 2 μπορεί να χρησιμοποιηθούν -και χρησιμοποιούνται αρκετά συχνά- ως degradatory στον δυτικό κόσμο. 

Απο κει και πέρα, ένα chatbot είναι απλά κώδικας και όχι κάποια οντότητα με απόψεις.

Το ότι μπορεί καποιος να φτιάξει chatbot με οτι flair θέλει είναι ακριβώς το ίδιο με το να φτιάξει κάποιος ένα blog και να γράφει μέσα οτι θέλει.

Επειδή σου δίνει την ψευδαίσθηση ότι είναι sentient δε σημαίνει ότι είναι κιόλας.

Υπάρχουν εναλλακτικές λέξεις που μπορώ να χρησιμοποιήσω που δεν μπορούν να χρησιμοποιηθούν ως degratory?

Το ότι μια λέξη μπορεί να χρησιμοποιηθεί κακοπροαίρετα από κάποιους δεν σημαίνει ότι δεν μπορεί να χρησιμοποιηθεί μη κακοπροαίρετα από άλλους. Η σημασία προκύπτει από το context της συζήτησης.