Como funciona IceCube II. La toma de datos.

Tras la entrada anterior, espero que tengáis una idea un poquito mas clara (o quizá no tan clara) de cómo la luz que se genera en el hielo termina convirtiéndose en unos datos digitales en el seno de lo que llamamos DOMs, módulos ópticos. Pero como ya dijimos, los DOMs no tienen forma de saber qué está ocurriendo en el resto del detector, sólo existe una conexión física con sus vecinos más inmediatos para saber si ellos también han visto algo, pero no pueden saber, por ejemplo, lo que ha visto una cadena adyacente. Necesitamos un cerebro que recopile toda la información para reconstruir qué ha pasado realmente. Si pudiésemos ver con nuestros ojos los destellos, no nos costaría entender qué tipo de partícula ha atravesado, en qué dirección, o si tenía más o menos energía, pero decirle a un ordenador que nos dé esa información no es tan fácil. Para empezar, lo que ocurre en el hielo realmente es un follón. A parte de que los PMTs están viendo ‘estrellitas’ constantemente (eso ya vimos como solucionarlo), los DOM por ejemplo contienen trazas de materiales radioactivos (Uranio, Torio, y sobre todo Potasio). Esta contaminación puede producir pequeños destellos en el propio cristal del DOM que puede llegar a ver un DOM vecino. Esto no es tan fácil de eliminar. Además, aparte de los neutrinos que buscamos, puede haber otras partículas que produzcan destellos. ¿Cómo distinguimos lo que es interesante de lo que no para poder ‘enseñárselo’ a los ordenadores? Este es un problema central en cualquier experimento de ciencia básica. Lo que uno busca es una especie de aguja en un pajar, se necesita separar el grano de la paja y para eso, hay que tener una cierta idea de lo que se busca (el grano) y sobre todo, conocer lo que te estorba (la paja). Los físicos llamamos ‘señal’ a lo que buscamos, y ‘ruido’ (o ‘fondo’) a todo lo que estorba. El éxito de cualquier experimento depende de la capacidad de reducir, controlar y/o conocer el ‘ruido’ para que resulte visible la ‘señal’. Además, ya que uno construye un experimento que cuesta bastante, es natural exprimirlo todo lo posible, y por tanto, buscar todo aquello que pueda resultar de interés, así que lo que constituye la señal, puede ser muy variado (incluso puede que completamente diferente a lo buscado).

Nos adentramos en el cerebro de IceCube.

Pero vayamos más al detalle. ¿Qué es lo que esperamos ver cuando los neutrinos chocan con el hielo (es decir, nuestra señal)? ¿Y que fuentes de ‘ruido’ tenemos?

Los neutrinos, como cualquier otra partícula, pueden chocar con un núcleo de hielo y rebotar como chocan las bolas de billar. Parte de la energía del neutrino se transmite al núcleo y el neutrino sale rebotado. El núcleo es una partícula con carga eléctrica, así que no es capaz de viajar demasiado por el hielo, porque se va frenando al chocar con otros núcleos. En este proceso, se arrancan electrones y se producen otras partículas cargadas, que al viajar por el hielo, producen luz. Pero ninguna de estas partículas viaja demasiado, así que visto desde fuera, es como si la luz se estuviese emitiendo desde un punto. Como el neutrino no tiene carga no deja rastro ni antes ni después, todo lo que se ve es un destello con forma más o menos esférica y la cantidad de luz producida es proporcional a la energía que ha depositado el neutrino. A energías muy altas, la emisión no es perfectamente esférica, sino más bien ovalada, y eso da cierta información de qué dirección traía el neutrino. Este tipo de choque se conoce técnicamente como ‘corrientes neutras’ (NC) porque lo que ocurre realmente entre el neutrino y el núcleo es que se intercambian una partícula sin carga eléctrica.

Las bolas de billar no tienen otras formas de chocar, pero el mundo subatómico es algo más interesante. Resulta que existen también las ‘corrientes cargadas’ (CC) y lo que ocurre en este caso es que el neutrino incidente desaparece y lo que sale tras el choque, es una partícula cargada. Es así como hemos descubierto que en realidad existen tres tipos de neutrinos. Hay neutrinos que tras el choque producen un electrón. Otros que producen un muon (es como un electrón, con carga negativa, pero 200 veces mas pesado) y finalmente, hay un tercer tipo que produce partículas tau (otro hermano del electrón todavía mas pesado). Por eso se les conoce como neutrino electrónico, neutrino muónico y neutrino tipo tau.

Tras un choque de este tipo, la energía del neutrino se reparte entre el retroceso del núcleo con el que ha chocado, y la energía cinética (velocidad) de una partícula cargada (electrón, muon o tau). Los electrones, son ligeros, y al igual que los núcleos, se frenan enseguida en el hielo, así que toda esa energía (en realidad una parte) se convierte en luz que sale más o menos de un punto. Las partículas tau, aunque son pesadas, ‘viven’ muy poco. Eso quiere decir que se desintegran enseguida en otras partículas y de nuevo, lo que se tiene es un destello puntual más o menos esférico. Sólo a energías muy muy altas, la partícula tau puede viajar lo suficiente antes de desintegrarse cómo para que la energía (y la luz) liberada en la desintegración se produzca en un punto distinto a la energía (y luz) producida inicialmente en el choque, así que lo que se tienen son dos destellos más o menos esféricos separados por una cierta distancia.

Lo interesante viene con los muones. Estas son partículas cargadas, relativamente pesadas, y aunque también se desintegran, viven mucho más que las partículas tau. Muones de energías altas (>TeV) pueden recorrer distancias de más de 1Km en el hielo y para energías aun mayores (>PeV) pueden llegar a los 10Km. A lo largo de ese recorrido, el muon produce pequeñas cascadas de otras partículas y va perdiendo energía y emitiendo luz (cada vez menos) en todo el recorrido. Así que lo que se tiene en teoría es un cono muy alargado de luz.


Estas son las 3 ‘topologías’ (formas) diferentes de destellos que esperamos observar cuando choquen los neutrinos, resumiendo:

– Un destello esférico saliendo de un punto (estas se llaman cascadas). Producidos por corrientes neutras de cualquier tipo de neutrino o por corrientes cargadas de neutrinos electrónicos y tipo tau.
– Un doble destello esférico. Producido por corrientes cargadas de neutrinos de tipo tau muy energéticos (naturalmente, habrá una transición entre el tipo anterior y este)
– Trazas alargadas de destellos, producidas por corrientes cargadas de neutrinos muónicos.

Sé que esto esta resultando complicado, pero hay que hacer algún inciso más respecto a las trazas. Sólo los neutrinos muonicos de las energías más bajas detectables por IceCube (>100 GeV, que aun así es muy alta energía) producen trazas que pueden estar totalmente contenidas en el volumen en el que se encuentran los DOM. En la mayoría de los casos, la traza es más larga. Así pues, en algunas ocasiones veremos el inicio o el final de la traza, pero en la mayoría, veremos sólo una parte de la traza, y eso hace que extraer la energía del neutrino original a partir de la luz vista en la traza, no sea tan fácil como en el caso de las cascadas (que sí se ven enteras). Por el contrario, la traza es perfecta para reconstruir la dirección del neutrino original pues el muon sale disparado más o menos en dirección opuesta. A las más altas energías, se tiene una precisión de 1 grado aproximadamente.

Gracias a estas ‘señales’ vamos a poder estudiar información del Universo. Ya haré una entrada especifica sobre los objetivos científicos de IceCube, pero en general, buscamos neutrinos de muy alta energía provenientes de lugares determinados, así que miraremos trazas que ‘apunten’ en ciertas direcciones, también esperamos tener indicios de un ‘fondo’ omnidireccional de neutrinos de altísima energía, así que estudiaremos hasta qué energía llegan las ‘cascadas’. Existen varios estudios más de interés (supernovas, materia oscura, monopolos, etc) que nos harán buscar ciertas de estas señales en los datos con características concretas. Enseguida veremos cómo el cerebro de Icecube en el ICL consigue todo esto. Pero es importante mencionar que todos estos estudios tienen detrás complicados cálculos teóricos. Estos cálculos nos dicen cuántos neutrinos se espera que lleguen a IceCube debido a determinados fenómenos (y según ciertos modelos, que es lo que se quiere comprobar). La física teórica, gracias al Modelo Estándar de Partículas, permite calcular, además, las probabilidades de que estos neutrinos choquen mediante los procesos que hemos descrito (corrientes cargadas y neutras) y por tanto, cuantos destellos se esperan de cierto tipo. También es posible simular la cantidad de luz generada en estos destellos. Pero para poder comparar los datos reales con esos modelos, hace falta un paso intermedio, que es conocer bien la respuesta de nuestros módulos (DOMs). Un cierto DOM puede recoger menos carga, no porque haya visto menos luz, sino porque el proceso de amplificación en el PMT es menos eficiente, o porque en realidad, el hielo en esa parte es menos transparente. Para eso se usan los LED que hay en cada DOM, para ‘calibrar’ la respuesta de los DOMs cuando se les ilumina con una cantidad de luz conocida, y para estudiar la transparencia del hielo. Así se ha descubierto, por ejemplo, que hay una capa de varias decenas de metros más sucia en medio de Icecube y los DOMs en esa capa ven menos luz que los que hay en otras zonas. Realizar calibraciones regularmente es parte de nuestro trabajo como Winter Overs. Esos datos se tienen en cuenta a la hora de reconstruir la energía que realmente ha depositado cualquier partícula en el hielo.

Representacion del ritmo de disparo de cada DOM. La franja mas azul hacia la mitad es debida a qu eel hielo es menos transparente en esa zona.
Icecube busca neutrinos que han atravesado toda la Tierra.

Pero antes de ver los detalles de las máquinas que funcionan en Icecube, tenemos que decir también algo sobre lo que antes hemos llamado ‘ruido’. ¿Qué otras cosas pueden estar pasando en el hielo a parte de las señales producidas por los neutrinos? La principal fuente de ruido para IceCube (y la mayoría de los experimentos de astroparticulas) proviene de la atmósfera. Los rayos cósmicos son partículas (en su mayoría protones) que llegan a alcanzar energías descomunales y llegan a la atmósfera desde todas las direcciones. No está claro todavía el origen de los rayos cósmicos de más alta energía. Este año se cumple el centenario de su descubrimiento, así que ya hablaremos de ellos. El caso es que cuando estas partículas chocan con la parte alta de la atmosfera, generan un chaparrón de partículas secundarias de todo tipo. Ente ellas, también se generan muones. Los muones llegan a la superficie terrestre, y pueden atravesar varios kms de roca o hielo, así que algunos de estos muones atraviesan también IceCube. Y hemos dicho que una de las señales características que buscamos como indicio de un neutrino, son las trazas de los muones generados en corrientes cargadas por neutrinos muonicos. ¿Cómo sabemos que un muon que atraviesa Icecube ha sido producido por un neutrino o por un rayo cósmico? Lo cierto es que en principio (si no somos capaces de ver el inicio de la traza), no tenemos forma de saberlo. Y este es el motivo de una de las características más curiosas de Icecube. IceCube mira al Universo desde el Polo Sur, pero no mira hacia el Sur, mira hacia el Polo Norte! Los muones recorren kms en la Tierra, pero no miles de kms. Los neutrinos, sin embargo, sí atraviesan toda la Tierra, y podemos observarlos llegando a IceCube desde cualquier dirección. Si observamos un muon que va de abajo a arriba (es decir, como si hubiese entrado por el Polo Norte) tendremos la seguridad de que ha sido producido por un neutrino y no por un rayo cósmico. Aunque hablare seguramente más cuando hable de la Ciencia de IceCube, el telescopio puede mirar también hacia el Sur, pero sólo a partir de una cierta energía, ya que sabemos que los muones atmosféricos sólo llegan hasta unas energías determinadas. Lo importante es notar que para poder distinguir lo que es interesante de lo que no, necesitamos hacer una estimación de la dirección de las partículas, o de la energía depositada y esto hay que hacerlo más o menos en tiempo real. A pesar de usar la técnica de disparo, se generan más datos de los que podemos enviar diariamente por satélite, es por eso que el ‘cerebro’ de Icecube tiene que seleccionar aquello que es potencialmente interesante para poder enviar sólo esa parte para su análisis.

El ICL y las torres por las que entran los cables.

Así pues, ¿como se consigue todo esto en el ICL?

Como ya comenté, cada par de DOMs comparten un cable, y todos los cables de una cadena salen a la superficie como un supercable. Estos supercables entran en el ICL por esas torres metálicas que se ven en las fotos hasta la segunda planta. Allí se distribuyen en un panel y de ese panel, se llevan a la primera serie de ordenadores, los DOMhubs.

Paneles donde se distribuyen los cables a los DOMhubs.

Cada DOMhub se hace cargo de una cadena de DOMs (60). Tiene 8 tarjetas especiales llamadas DOR-cards y cada tarjeta recoge los datos de 8 DOMs (la última tarjeta sólo tiene 4). Hay 86 cadenas, más las estaciones en superficie (IceTop) así que se necesitan casi 100 DOMhubs! Para organizarlos se utilizan Racks. Cada rack almacena 8 DOMhubs. Los DOMhubs se encargan de saber cuántos DOMs han visto algo, quienes y cuándo. También mantienen sincronizados los relojes de los DOMs con una hora que se obtiene de una antena GPS en el tejado. Todavía no descargan las señales digitalizadas, pues ocupan bastante, simplemente producen una lista ordenada temporalmente de los DOMs que han disparado, quizá con una estimación rápida de la carga que ha visto cada uno. Para tener una visión más global, hay que pasar al siguiente nivel.

Esquema de un DOMhub.
Los cables entrando en uno de los DOMhubs.

La información de cada DOMhub se pasa a una máquina que se llama ‘trigger’. Es esta máquina la que decide si realmente ha pasado algo o no (todavía no sabemos si interesante o no). Uno de los criterios que se utilizan es que al menos haya habido 8 parejas de DOMs que hayan visto algo. La decisión de esta máquina es importante, así que los criterios se han ido refinando con el tiempo. También se definen condiciones diferentes para las cadenas normales, para la parte central (DEEPCORE) o para las estaciones en superficie (ICETOP). Cuando se cumple alguna de esas condiciones, es cuando decimos que IceCube ha visto algo. Entonces esta máquina ordena de nuevo temporalmente la información que le llega de cada DOMhub y la pasa al siguiente nivel.

Racks con varios DOMhubs alojados.

El siguiente nivel es otra máquina que llamamos “Event Builder” o ‘evbuilder’. Ahora sí, como sabemos que se ha producido algo, y como tenemos la información que nos llega de ‘trigger’ de quien y cuando ha visto algo, ‘evbuilder’ solicita toda la información a esos DOMs a través de los DOMhubs correspondientes y construye un evento (de ahí el nombre de la máquina) que contiene toda la información bruta producida por los DOMs (tiempo en que han visto algo, forma digitalizada de la carga que han visto, etc). A este nivel, y con IceCube completo, se producen casi 3000 sucesos por segundo, y la mayoría son muones atmosféricos. Estos muones, aunque no son el objetivo principal de Icecube, no queremos descartarlos, porque contienen también información de interés. Pero no es posible enviar por satélite el casi Terabyte diario que producen estos 3000 sucesos/segundo. Y ahí es donde entra la siguiente fase, la de filtrado y procesado, o PnF.

El sistema PnF está formado por una máquina principal ‘fpmaster’ y unas 20 máquinas ‘escavas’ ‘fpslaves’. ‘fpmaster’ recoge los eventos de ‘evbuilder’ y los distribuye entre los ‘fpslaves’. Es aquí donde se requiere la mayor potencia de cálculo, por eso hay tantas maquinas secundarias. Las máquinas secundarias lo que hacen es reconstruir información básica del evento. Mediante ciertos ajustes de la carga que ha visto cada DOM, y cuándo la ha visto, se puede hacer una estimación de la trayectoria de la partícula, con la carga total o el numero de DOMs implicados, se hace una estimación básica de la energía, etc. Para poder hacer estos cálculos, los ‘fpslaves’ hacen uso de la información de calibración que está almacenada en otra máquina en una base de datos (‘DB’). Y con esa información, ya podemos seleccionar aquello que nos parezca más o menos interesante. Por ejemplo, muones ascendentes, o cascadas de alta energía, o eventos que provengan de una dirección determinada. Todos esos sucesos, almacenados ya en ficheros con un formato específico, se pasan al siguiente nivel, del que ahora hablare. Antes de eso, mencionar que el sistema PnF tiene un segundo nivel de procesado, que permite enviar alarmas casi en tiempo real. Si por ejemplo se detectan dos neutrinos en un intervalo de tiempo determinado (pueden ser incluso días) y llegando de una misma dirección del espacio o un neutrino que llega de alguna de las direcciones almacenadas en un catalogo de ‘fuentes interesantes’ el sistema puede generar una alarma que envía a otros telescopios para que apunten también en esa dirección. Por otro lado, un aspecto que tenemos que controlar es la latencia del sistema. Normalmente es de unos pocos segundos (lo que le cuesta ‘digerir’ todos los datos que le llegan), pero a veces se dispara, porque el sistema no es capaz de procesar la información al ritmo que le llega desde ‘evbuilder’. En ese caso se acumula un retraso que puede llegar a varias horas, y es necesario intervenir. En principio, todas las máquinas tienen bastante capacidad de almacenamiento de memoria para que en estos casos los datos no se pierdan, simplemente se guardan hasta ser procesados.

Racks16 y 17 donde estan la mayoria de los servidores.

Bien, el siguiente paso en toda esta cadena se llama SPADE. Es el sistema que gestiona qué hacer con los ficheros producidos. Por un lado, se envían a las máquinas que tenemos en la estación y allí se copian en cintas magnéticas, pero además, los datos que han pasado los filtros del sistema PnF (aquellos que se han considerado interesantes) se ponen en una ‘cola’ para ser enviados por satélite. Los datos científicos se envían por la red TDRSS y IceCube tiene asignados unos 100Gb al día, que es aproximadamente la mitad de toda la capacidad del sistema. Si hay algún problema con el satélite, esos datos se van acumulando. Recientemente llegamos a acumular casi 1Tb de datos en espera de ser enviados, pero el sistema ya se va recuperando. En cuanto a las cintas magnéticas, tenemos que cambiar unas dos o tres al día. Almacenan más o menos 1Tb y ya hemos copiado más de 300 este año. Cuando llega el verano, todas esas cintas se envían por avión a Madison.

Las maquinas para copiar los datos en cintas magneticas.

Como parte final de la cadena, tenemos otra máquina que llamamos ‘Experiment Control’ y otra que llamamos ‘Access’. Cuando hay una actualización de software, o queremos modificar alguna configuración, se hace en la maquina ‘access’ y de ahí se distribuye a todo el resto de máquinas. Desde ‘expcont’ se lanzan los procesos necesarios para que todo funcione y el programa principal que controla todo. Es desde ahí donde paramos y lanzamos el sistema. Con tantos ordenadores y componentes, es fácil que algo falle. Así, si por ejemplo falla un DOMhub, tenemos que crear en ‘access’ una configuración que excluya ese DOMhub de la toma de datos. Y desde ‘expcont’ lanzar esa configuración. Eso nos da tiempo de ver cual es el problema con el DOMhub mientras IceCube sigue tomando datos con casi todos los módulos. Nuestra principal responsabilidad como Winter Overs es precisamente tener el detector tomando datos continuamente y si algo falla recuperarlo cuanto antes.
Y finalmente, un sistema tan complejo, necesita de una serie de máquinas para controlar que todo lo demás va bien, o para realizar copias de seguridad, o para alojar paginas web, etc. Una de las páginas que tenemos siempre abierta y mirando de reojo (incluso mientras escribo esto) se llama I3Live, que nos muestra en tiempo real el estado de todo el sistema. Si el detector tiene algún problema y deja de funcionar, podemos verlo ahí inmediatamente. Aunque si por lo que sea, no estamos pendientes (porque estamos durmiendo o de fiesta :)) entonces se genera una alarma que nos llama a la radio que llevamos encima las 24h del día. Otro sistema que utilizamos se llama nagios, y chequea constantemente cada uno de los ordenadores, sus discos, los UPS, etc. y envía correos o alarmas cuando algo no va bien.

El Rack18 con los servidores control y monitorizacion.
Pantallazo de la pagina principal del I3Live.

Por cierto, los DOMhubs son PCs normales, corriendo bajo Scientific Linux. El resto de máquinas son servidores Dell bastante potentes; la mayoría tienen 12 procesadores Intel X5670@2.93GHz a parte de varios Gb de memoria y Tb de almacenamiento.

Nuestra labor queda confinada al cuidado del detector, los datos vuelan hacia el Norte y allí se analizan. Muchas veces nos enteramos de ciertos resultados a la vez que vosotros. Pero estar aquí metido, viéndole las tripas a este ‘bicho’ es realmente interesante.

Dejaremos para una próxima entrega qué se hace con esos datos y qué tipo de información podemos extraer con ellos, en definitiva, un poco el programa científico de IceCube. Pero al menos ahora ya sabéis todo lo que hay detrás de esos resultados que de vez en cuando escucháis por ahí, todo el trabajo, esfuerzo e ingenio que supone idear, construir y hacer funcionar un experimento como este.

A pesar de lo larga y compleja de esta entrada se quedan muchas cosas en el tintero y seguro que han surgido muchisimas preguntas. No dudeis en plantearlas aqui. En algun momento intentare responder al menos a las mas comunes.

3 comentarios en “Como funciona IceCube II. La toma de datos.”

  1. Carlos ,yo no puedo hacerte preguntas dificiles»que me gustaria» cuando has sido elegido por al,. go sera,parece imposible entender y hacer funcionar tanta electronica «habrá km.de cables».Todo eso como a sido diseñado,tanto ingenio,trabajo ydinero que abrá costado y el mantenimiento en ese clima,saludos ,disculpa las molestias y faltas de ortografia,

  2. Mauricio Frapiccini

    😀 Je je je .. Sin duda la mejor entrada de todo el blog. …. Pero antes de empezar a preguntar lo voy a leer denuevo.

    salu2 y felicitaciones 🙂

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *