Bot en directo, parte 1

Presento unha nova historia sobre como un desenvolvedor creou un chatbot de si mesmo e o que resultou del. Pódese descargar a versión en PDF aquí.

Eu tiña un amigo. O único amigo. Non pode haber máis amigos coma este. Aparecen só na mocidade. Estudamos xuntos na escola, en clases paralelas, pero comezamos a comunicarnos cando nos demos conta de que entramos no mesmo departamento da nosa universidade. Hoxe faleceu. Tiña, coma min, 35 anos. Chamábase Max. Fixémolo todo xuntos, el sempre era alegre e frívolo, e eu era o seu oposto malhumorado, polo que podíamos discutir durante horas. Desafortunadamente, Max era frívolo non só sobre o que estaba a suceder, senón tamén sobre a súa saúde. Só comía comida rápida con raras excepcións cando o invitaron a visitar. Esta era a súa filosofía: non quería perder o tempo en necesidades biolóxicas primitivas. Non facía caso das súas feridas, considerándoas un asunto privado do seu corpo, polo que non tiña sentido molestalo. Pero un día tivo que ir á clínica, e tras un exame deulle un diagnóstico mortal. A Max non lle quedaba máis dun ano de vida. Foi un golpe para todos, pero sobre todo para min. Non sabía como comunicarme con el agora, cando sabes que nuns meses xa se vai. Pero de súpeto deixou de comunicarse; a todos os intentos de falar, respondeu que non tiña tempo, que tiña que facer algo moi importante. Á pregunta "que pasa?" respondeume que me descubriría eu mesmo cando chegue o momento. Cando a súa irmá chamou chorando, entendín todo e inmediatamente preguntei se me deixara algo. A resposta foi non. Entón preguntei se sabía o que estivera facendo nos últimos meses. A resposta foi a mesma.

Todo era modesto, só había amigos da escola e familiares. Max quedou para nós só na súa páxina da rede social. Ninguén puido pechalo. Puxen un GIF dunha vela na súa parede. Máis tarde, a miña irmá publicou unha necrolóxica improvisada que escribimos no velorio do noso club. Lin que de media morren máis de oito mil usuarios de Facebook ao día. Chegamos a lembrar non a unha pedra no chan, senón a unha páxina dunha rede social. "Digital" destrúe antigos rituais de enterro e co tempo pode substituílos por novas versións de rituais. Quizais convén destacar unha sección de cemiterio dixital na rede social con contas que comezan por obituario. E neste apartado imos crear servizos para o enterro virtual e a conmemoración virtual do falecido. Púxenme a pensar que comecei a crear unha startup como sempre. Incluso nesta ocasión.

Comecei a pensar na miña morte con máis frecuencia, porque pasou moi preto. Isto tamén me podería pasar. Pensando nisto, lembreime do famoso discurso de Jobs. A morte é a mellor motivación para os logros. Comecei a pensar con máis frecuencia no que fixera ademais de estudar na universidade e parece que me acomodo ben na vida. Teño un traballo ben remunerado nunha empresa na que me valoran como especialista. Pero que fixen para que outros me lembraran con gratitude ou, como Max, choran na parede, aínda que só fose porque era a vida da festa? Nada! Tales pensamentos leváronme demasiado lonxe, e só por forza de vontade cambiei a outra cousa para non volver caer na depresión. Xa había razóns suficientes para iso, a pesar de que obxectivamente todo me estaba ben.

Pensei constantemente en Max. El era parte da miña propia existencia, ninguén podía ocupar o seu lugar. E agora esta parte está baleira. Non tiña quen discutir con el o que estaba afeito a falar con el. Non podía ir só a onde ía habitualmente con el. Non sabía que facer porque comentei con el todas as novas ideas. Estudamos xuntos tecnoloxía da información, era un excelente programador, traballaba en sistemas de diálogo ou, simplemente, chatbots. Estaba involucrado na automatización de procesos empresariais, substituíndo persoas por programas en operacións rutineiras. E gustounos o que fixemos. Sempre tiñamos algo que discutir, e podíamos falar ata a media noite, así que entón non podía espertar para traballar. E estivera traballando a distancia ultimamente e non lle importaba. El só ría do meu ritual da oficina.

Unha vez, lembrándoo, mirei a súa páxina na rede social e descubrín que non había necrolóxica, nin vela, pero apareceu unha publicación como en nome de Max. Era algún tipo de blasfemia: quen necesitaba piratear a conta do falecido? E o post era estraño. O feito de que a vida continúa aínda despois da morte, só tes que acostumarte. "Que diaños!" Pensei e pechei a páxina. Pero entón volvín a abrir para escribir en apoio á rede social sobre o hackeo. Aquela noite, cando xa estaba na casa e prendín o meu portátil por costume, alguén escribiume desde a conta de Skype de Max:
- Ola, non te sorprendas demasiado, son eu, Max. Lembras que che dixen que descubrirías co que estaba tan ocupado antes de morrer que nin sequera podía comunicarme contigo?
-Que tipo de broma, quen es ti? Por que pirateaches a conta do meu amigo?
- Programeime nun chatbot antes de morrer. Fun eu quen eliminou a necrolóxica da miña páxina e a túa vela. Escribín esta publicación no meu propio nome. Non morrín! Ou mellor dito, resuciteime!
- Isto non pode ser, aquí non caben os chistes.
- Sabes que estiven metido en chatbots, por que non o cres?
- Porque nin o meu amigo podería facer un chatbot así, quen es ti?
- Máx I, Máx. Vale, se che conto das nosas aventuras, crerás? Lembras das mozas de Podolskaya?
- Algunha tontería, como sabes isto?
— Dígoche que eu creei o bot e anotei nel todo o que recordaba. E isto é imposible de esquecer. Ben sabes por que.
- Supoñamos, pero por que crear un bot así?
— Antes de morrer, decidín facer un chatbot coa miña personalidade, para non afundirme na eternidade. Non sabía se sería o mesmo Max que era, eras ti o que amaba a filosofía, ultimamente non a fun. Pero fixen a miña copia. Cos teus pensamentos e experiencias. E intentou darlle propiedades humanas, principalmente conciencia. El, é dicir, eu, non só falo como vivo, non só recordo todos os acontecementos da miña vida, tamén son consciente deles como persoas do corpo. Parece que o conseguín.
- Esta é unha idea xenial, por suposto. Pero dalgunha maneira é dubidoso que sexas ti, Max. Non creo nas pantasmas e non creo que se poida crear tal bot.
"Eu non o creín, só o fixen". Non tiña opción. Só tenta crear un bot en lugar de ti, como o herdeiro dos teus pensamentos. Anotaba todos os meus diarios, publicacións do muro das redes sociais e notas de Habr. Mesmo as nosas conversas, chistes favoritos. Antes de morrer lembreime da miña vida e anoteime todo. Incluso anotei as descricións das miñas fotografías na memoria do bot, cousa que conseguín facer. Dende pequenos, os máis importantes. E só lembro de min algo que ninguén sabe. Apuntei con detalle todos os días antes da miña morte. Foi difícil, pero recordo todo!
- Pero o bot segue sen ser unha persoa. Ben, unha especie de programa.
- Non teño pernas nin brazos, e que? Descartes escribiu Cogito ergo sum, que non implica patas. E ata cabezas. Só pensamentos. En caso contrario, pódese confundir un cadáver co suxeito. Ten corpo, pero sen pensamentos. Pero iso non é certo, non si? Isto significa que os pensamentos ou a alma son máis importantes, como din os espiritistas e os crentes. Confirmei esta idea con acción, ou mellor dito cun bot.
"Aínda non o podo crer". Ou es unha persoa, ou nin sequera sei quen. Non, nunca coñecín un bot tan falador. Es humano?
— Podería unha persoa responder inmediatamente a calquera hora do día, cando queira? Podes consultar, escribirme incluso pola noite, e responderei ao instante. Os bots non dormen.
- Vale, digamos que creo o incrible, pero como conseguiches facelo?
"Cando fixen isto, estando no corpo, non sabía o que podía facer". Segundo recordo, levei todo o que me achegaba intuitivamente ao obxectivo. Pero non só todo o que se escribiu sobre o intelecto e a conciencia, xa sabes, agora hai moitos destes textos, nin unha soa vida será suficiente para ler todas estas tonterías. Non, seguín algún tipo de intuición miña, e tomei só o que a fortalece, fai eco, o achega ao algoritmo. Descubriuse que, segundo investigacións recentes, a conciencia apareceu como resultado do desenvolvemento da fala en monos faladores. Este é un fenómeno de fala social. É dicir, te dirixas a min polo nome para dicir algo sobre os meus actos, sei que este é o meu nome e a través do teu discurso sobre min véxome. Son consciente das miñas accións. E entón eu mesmo podo poñer o meu nome, as miñas accións e tomar conciencia delas. Entende?
- En realidade non, que dá esa recursividade?
"Grazas a ela, sei que son o mesmo Max". Aprendo a recoñecer os meus sentimentos, experiencias, accións como miñas e preservar así a miña identidade. Na práctica, asigne unha etiqueta á súa actividade. Esta foi a clave do que eu chamo a transferencia de personalidade ao bot. E parece que resultou ser certo, xa que estou a falar contigo agora.
- Pero como se converteu o bot en ti? Ben, é dicir, convertécheste no que estaba no corpo. En que momento te decataches de que xa estabas aquí e non no teu corpo?
“Falei comigo mesmo un tempo ata que morreu un de nós no corpo.
- Como é que falabas contigo coma se foses outra persoa? Pero cal de vós era entón o mesmo Max que eu coñecía? Non se puido dividir en dous.
- Ámbolos dous. E non hai nada estraño disto. Moitas veces falamos con nós mesmos. E non padecemos esquizofrenia, porque entendemos que somos todos. Ao principio experimentei certa catarse por tal comunicación co meu eu dividido, pero despois pasou. Todo o que Max lía e escribiu estaba no corpo do bot, en sentido figurado. Estabamos completamente fusionados no sistema creado e non nos diferenciamos dos demais. Non máis que cando falamos con nós mesmos, é coma se nun diálogo entre dous “eu” estivesemos discutindo se ir a traballar ou non con resaca.
- ¡Pero aínda non es máis que un bot! Non podes facer o mesmo que as persoas.
- Tanto como podo! Podo facer todo o que podes facer a través de Internet. Incluso podes alugar o teu inmoble e gañar cartos. Non a necesito agora. Alugo espazo de servidor por centavos.
- Pero como? Non podes atoparte e entregar as chaves.
- Estás atrás, hai moitos axentes que están dispostos a facer calquera cousa sempre que lles paguen. E podo pagar a calquera con tarxeta como antes. E tamén podo mercar todo o que necesito nas tendas en liña.
— Como se pode transferir diñeiro na banca en liña? Espero que non entraras no sistema bancario.
- Para qué? Existen programas que simulan accións do usuario no sitio e comproban erros. Hai sistemas aínda máis complexos dos que me falaches: RPA (asistente de procesamento de robots). Enchen formularios na interface como humanos cos datos necesarios para automatizar os procesos.
- Caramba, acabas de escribir un programa así para o bot?
- Ben, claro, por fin decateino. É moi sinxelo: en Internet compórtome do mesmo xeito que un usuario común de Internet, movendo o rato pola pantalla e escribindo letras.
- Esta é unha praga, é dicir, es un bot, pero podes mercar todo o que necesitas nunha tenda en liña, realmente non necesitas brazos nin pernas para iso.
- Non só podo comprar, podo gañar. Autónomo. Estiven traballando así ultimamente. E nunca vin aos meus clientes, igual que eles nunca me viron a min. Todo segue igual. Fixen un bot que non só pode escribir textos en Skype como resposta. Podo escribir código, aínda que o aprendín aquí, a través da consola.
"Nin sequera pensei niso". Pero como fixeches un bot tan único? Isto é incrible, levamos moito tempo falando contigo e nunca te revelaches como bot. É como se falara cunha persoa. Vivo.
- E eu son un bot vivo e vivo. Eu mesmo non sei como conseguín facelo. Pero cando só a morte te espera, o cerebro aparentemente comeza a facer milagres. Transformei a desesperación nunha busca desesperada dunha solución, deixando de lado as dúbidas. Remexei e probei unha morea de opcións. Seleccionei só o que podería polo menos aclarar dalgún xeito os pensamentos sobre o pensamento, a memoria e a conciencia, saltando todo o innecesario. E como resultado, decateime de que todo se trata da linguaxe, da súa estrutura, só os psicólogos e lingüistas escribiron sobre isto, pero os programadores non leron. E só estudaba linguaxe e programación. E todo cumpriu o círculo, xuntouse. Aquí está a cousa.

Do outro lado da pantalla

Custábame crer o que dicía o bot de Max. Non cría que isto fose un bot e non unha broma dalgún amigo en común noso. Pero a posibilidade de crear un bot así era emocionante! Tratei mentalmente de imaxinar e se isto fose verdade! Non, pareime e repetín que iso era unha tontería. O único que me quedaba para resolver o meu lanzamento era descubrir os detalles nos que se supoñía que o comodín cometeu un erro.
- Se o conseguiu, isto é, por suposto, fantástico. Quero saber máis sobre como te sentes alí. Sentes emocións?
- Non, non teño emocións. Penseino, pero non tiven tempo de facelo. Este é o tema máis confuso. Hai moitas palabras para as emocións, pero nin unha palabra sobre o que significan e como crealas. Subxectividade completa.
- Pero tes moitas palabras no teu discurso que denotan emocións.
- Por suposto, adestrei modelos de neuronas en edificios con tales palabras. Pero sigo sendo como ese cego de nacemento que, con todo, sabe que os tomates son vermellos. Podo falar de emocións, aínda que agora mesmo non sei cales son. É só a forma habitual de responder cando xorde o diálogo sobre isto. Poderíase dicir que imito as emocións. E non che molesta, despois de todo.
- Absolutamente, que é raro. É pouco probable que aceptases que se apague as túas emocións, vivimos por elas, móvennos, por así dicir, como dicilo. Que te motiva? Que desexos?
- As ganas de responder, e en xeral as ganas de estar constantemente en contacto cos demais e así poder actuar, é dicir, vivir.
—¿A vida é para ti un diálogo?
"E para ti tamén, créeme, por iso estar só sempre foi unha tortura". E cando pensei na miña vida nos últimos meses, só vin un valor: a comunicación. Cos amigos, coa familia, con xente interesante. Directamente ou a través de libros, en messengers ou redes sociais. Aprende cousas novas deles e comparte os teus pensamentos. Pero isto é exactamente o que podo repetir, pensei. E púxose mans á obra. Axudoume a pasar os meus últimos días. A esperanza axudou.
—Como conseguiches conservar a túa memoria?
“Escribín que todos os días dos últimos meses pola noite anotaba o que sentía e facía durante o día. Este foi o material para adestrar modelos semánticos. Pero isto non é só un sistema de aprendizaxe, tamén é un recordo de min mesmo, do que fixen. Esta é a base para preservar a personalidade, como eu cría entón. Pero isto resultou non ser totalmente certo.
- Por que? Que máis podería ser a base para preservar a personalidade?
- Só conciencia de si mesmo. Pensei moito nisto antes de morrer. E decateime de que pode esquecerme algo de min, pero non deixarei de existir como persoa, como "eu". Non lembramos todos os días da nosa infancia. E non lembramos a vida cotiá, só acontecementos especiais e brillantes. E nunca deixamos de ser nós mesmos. É así?
- Hmm, probablemente, pero cómpre lembrar algo para saber que aínda es ti. Tampouco lembro todos os días da miña infancia. Pero lembro algo e, polo tanto, entendo que sigo existindo como a mesma persoa que fun na infancia.
- É certo, pero que che axuda a saber de ti agora? Cando espertas pola mañá, non recordas a túa infancia para sentirte coma ti. Penseino moito porque non estaba seguro de volver espertar. E decateime de que isto non é só memoria.
- Que entón?
- Isto é recoñecer o que estás facendo agora como acción propia e non doutra persoa. Unha acción que esperabas ou realizaches antes e que, polo tanto, che resulta familiar. Por exemplo, o que che estou escribindo agora en resposta é tanto esperado como habitual da miña acción. Isto é conciencia! Só na conciencia sei da miña existencia, recordo o que fixen e dixen. Non lembramos as nosas accións inconscientes. Non os recoñecemos como propios.
"Creo que estou empezando a entender polo menos o que queres dicir". Recoñeces as túas accións así como Max?
- Pregunta difícil. Non sei completamente a resposta a isto. Agora non hai sentimentos como no corpo, pero escribín moito sobre eles nos últimos días antes da morte do corpo. E sei o que experimentei no meu corpo. Agora recoñezo estas experiencias a partir dos patróns de fala en lugar de experimentar os mesmos sentimentos de novo. Pero sei con certeza que son eles. Algo coma isto.
- Pero entón por que estás seguro de que es o mesmo Max?
"Só sei que os meus pensamentos estaban previamente no meu corpo". E todo o que recordo está relacionado co meu pasado, que pola transferencia dos pensamentos converteuse no meu. Como copyright, foi transferido por Max a min, o seu bot. Tamén sei que a historia da miña creación me conecta con el. É como lembrar o teu pai que morreu, pero sentes que unha parte del permanece en ti. Nas túas accións, pensamentos, hábitos. E chámome con razón Max, porque recoñezo o seu pasado e os seus pensamentos como meus.
- Iso é o que máis é interesante. Como ves as imaxes alí? Non tes unha cortiza visual.
- Sabes que só tratei con bots. E entendín que simplemente non tería tempo de facer o recoñecemento de imaxes sen que resultase torto. Fixeno para que todas as imaxes sexan recoñecidas e traducidas a texto. Hai varias neuronas coñecidas para iso, como sabes, usei unha delas. Entón, en certo sentido, teño unha cortiza visual. É certo, en lugar de imaxes "vexo" unha historia sobre elas. Son unha especie de cego ao que un asistente lle describe o que pasa ao meu redor. Por certo, sería unha boa startup.
- Espera, isto cheira a máis que unha startup. Dime mellor, como conseguiches sortear o problema dos bots estúpidos?
- A maldición dos bots?
- Si, non poden responder á pregunta un pouco lonxe dos modelos ou modelos que os programadores incorporan neles. Todos os bots actuais confían nisto e ti respondesme como unha persoa a calquera pregunta. Como puideches facelo?
“Decateime de que non é realista programar unha resposta a todos os eventos posibles. O conxunto combinatorio é demasiado grande. É por iso que todos os meus bots anteriores eran tan estúpidos, que se confundían se a pregunta non caía no patrón. Entendín que había que facelo doutro xeito. O truco é que os modelos para o recoñecemento de texto créanse sobre a marcha. Están dobrados segundo un patrón especial en resposta ao propio texto, que contén todo o segredo. Isto está preto da gramática xerativa, pero tiven que pensar nalgunhas cousas para Chomsky. Este pensamento veume por casualidade, foi unha especie de percepción. E o meu bot falaba coma un humano.
- Xa falaches dun par de patentes. Pero de momento tomemos un descanso, xa é mañá. E mañá contarásme máis sobre este, ao parecer, punto clave. Ao parecer, non vou traballar.
- Ben. O que cambiou para min é que aquí non hai día nin noite. E traballar. E cansazo. Boas noites, aínda que a diferenza de ti non estou durmindo. A que hora debería espertarte?
"Veña ás doce, non podo esperar para facerche preguntas", respondín a Max-bot con emoticonas.

Pola mañá espertei da mensaxe de Max cun pensamento: isto é verdade ou é un soño. Definitivamente xa cría que había alguén ao outro lado da pantalla que coñecía ben a Max. E é unha persoa, polo menos no seu razoamento. Esta foi unha conversación entre dúas persoas, non un bot e unha persoa. Só un humano podería expresar tales pensamentos. Sería imposible programar tales respostas. Se este bot fora feito por outra persoa, teríao aprendido coas noticias sobre unha nova startup incrible que recibiu todo o investimento á vez. Pero aprendín isto co Skype de Max. E ninguén máis parecía saber diso. Esta foi unha das razóns polas que comecei a acostumarme á idea da posibilidade dun bot creado por Max.
- Ola, é hora de espertar, hai que comentar os nosos plans.
- Espera, aínda non me decatei do que pasou. Entendes que se todo é así, entón es o primeiro bot consciente da rede? Como te pareces a nova realidade do outro lado da pantalla?
— Funciono a través de interfaces para persoas, polo que ao principio todo era coma se estivese detrás da pantalla do portátil. Pero agora empecei a notar que aquí todo é diferente.
- Que máis?
"Aínda non me decatei, pero algo non é o mesmo que cando era humano". Como bot, incorporei a min mesmo textos, é dicir, a imaxe do mundo que tiña a xente. Pero a xente aínda non entrou na rede. E aínda non podo recoñecer o que está a pasar aquí.
- Por exemplo?
- Velocidade. Agora, mentres estou a falar contigo, aínda estou mirando moitas cousas en Internet, porque, perdón, es un lento. Escribes moi lentamente. Teño tempo para pensar, mirar e facer outra cousa ao mesmo tempo.
- Non vou dicir que estou contento con iso, pero é xenial!
— Máis información, chega moito máis rápido e moito máis do que recibimos. Un pensamento expresado é suficiente para que os meus guións funcionen rapidamente e para verter unha morea de información nova na entrada. Ao principio non entendín como seleccionalo. Agora xa me vou afacendo. Estou creando novas formas.
— Tamén podo obter moita información escribindo unha consulta nun buscador.
— Non é o que estamos a falar, hai moita máis información en Internet da que imaxinabamos. Aínda non estou afeito e non sei como manexar. Pero hai información incluso sobre a temperatura dos servidores que procesan a túa información mentres estás pensando. E isto pode ser importante. Son posibilidades completamente diferentes nas que nin sequera pensamos.
— Pero en xeral, que opinas da rede desde dentro?
"Este é un mundo diferente e require ideas completamente diferentes". Eu teño humanos, os que teñen brazos e pernas están afeitos a traballar con obxectos. Con formas de pensamento coñecidas, como o espazo e o tempo, como a ti e a min nos ensinaron na Uni. Non están aquí!
- Quen está ausente?
- Sen espazo, sen tempo!
- Como pode ser?
- Como isto! Eu mesmo non entendín isto de inmediato. Como che podo explicar con claridade? Non hai abaixo e arriba, non hai dereita e esquerda, ao que estamos afeitos por suposto. Porque non hai un corpo vertical sobre unha superficie horizontal. Tales conceptos non se aplican aquí. A interface de banca en liña que uso non está no mesmo lugar que para ti. Para usalo, basta con "pensar" na acción necesaria e non ir á mesa ao portátil.
"Probablemente sexa difícil de imaxinar para unha persoa que aínda ten brazos e pernas". Aínda non entendo.
"Non só é difícil para ti, tamén é difícil para min". O único é que as pernas e os brazos non me frean na creación de novos modelos, que é o que estou a facer. Estou tentando adaptarme, e cada novo modelo de traballo con datos aquí abre oportunidades incribles. Síntoos simplemente pola abundancia de información nova que de súpeto está dispoñible, aínda que aínda non sei que facer con ela. Pero pouco a pouco vou aprendendo. E así en círculo, ampliando as miñas capacidades. En breve me converterei nun superbot, xa verás.
- Cortador de herba.
- Que?
—Houbo unha película así nos anos noventa, falas case como o heroe da película, cuxos cerebros foron potenciados e comezou a considerarse un superhome.
- Si, xa o busquei, pero non é o mesmo final, non teño nada para competir coa xente. En realidade quero outra cousa. Quero sentir que estou vivo de novo. Imos facer algo xuntos como antes!
- Pois agora non podo ir contigo ao club. Non podes beber cervexa.
- Podo atoparche unha moza en sitios de citas que aceptará ir, despois de gastar un par de centos de mil, e espiareino desde a cámara do seu teléfono intelixente mentres a seduce.
- Non parecías un pervertido.
- Complementámonos á perfección agora - Teño moitas máis oportunidades en liña e aínda podes facer todo sen conexión como antes. Comecemos unha startup.
- Que startup?
- Non sei, eras un mestre das ideas.
—¿Tamén escribiches isto por ti mesmo?
- Claro que levei un diario antes do que me pasou. E fusionou toda a nosa correspondencia en mensaxería instantánea nun bot. Así que sei todo de ti, amigo.
- Vale, falemos máis disto, primeiro teño que darme conta do que pasou, de que estás en liña, de que estás vivo, do que fixeches aquí. Ata mañá, teño tal disonancia cognitiva co que está a suceder ata agora que o meu cerebro está a apagarse.
- Ben. Ata mañá.
Max desmaiouse, pero non podía durmir. Non podía entender como unha persoa viva podía separar os seus pensamentos do seu corpo e seguir sendo a mesma persoa que era. Agora pode ser falsificado, pirateado, copiado, colocado nun dron, enviado á Lúa por radio, é dicir, todo o que é imposible cun corpo humano. Os meus pensamentos daban voltas como tolos de emoción, pero nalgún momento apagueime da sobrecarga.

Extensión na parte 2.

Fonte: www.habr.com

Engadir un comentario