Scaling Performance of a Parallel Implementation of a Biophysically Detailed Model Retina

Oscar Tengwall

May 2007

 Scaling Performance of a Parallel Implementation
of a Biophysically Detailed Model Retina
Abstract
The purpose of this Master's project in Computer Science was to investigate the issue of efficient implementation of graded interaction and how to balance computation and communication in the context of parallel and scalable neural simulation. In order to use large-scale models, it is vital that they scale well on systems where they are run.

Provided that only the communication is based on action potentials (spikes), an MPI-based parallel implementation on a cluster of computers has excellent scaling properties. However, in many parts of the brain and central nervous system, communication is to a significant degree not only event-based (i.e., not dependent on discrete action potentials), but is also graded. This occurs in the case of gap junctions, which provide the electrical coupling between neurons and in the case of graded transmitter release (graded synapses). Both of these types of communication between neurons are abundant in the retina.

For this Master's project a general-purpose parallel simulator was developed in C++. MPI is used for message passing. To integrate the model equations describing the dynamics of each neuron CVODE, a component of the SUNDIALS numerical library was used. To test the simulator, a retina model was developed, containing four different cell types and the three types of synapses: spiking, graded and gap junctions (electrical). A simple performance model was developed.

The conclusion from this investigation is that one can efficiently implement graded interaction (gap junctions and graded synapses) on a parallel architecture. The primary reason why this is possible is due to the good locality (ultimately scarcity) of such connections. Since these connections are local, the number of connections in a network scales linearly O(n) where n is the number of cells.


Skalningsprestanda för en parallell implementation
av en biofysiskt detaljerad retinamodell

Oscar Tengwall

Maj 2007

Skalningsprestanda för en parallell implementation
av en biofysiskt detaljerad retinamodell.
Sammanfattning
Uppgiften i detta examensarbete har varit att undersöka möjligheten att effektivt implementera graderade interaktioner mellan nervceller samt hur man ska balansera beräkning och kommunikation vid parallel nervcellssimulering. För att kunna utnyttja stora datormodeller, är det viktigt att de skalar bra på de system som de körs på.

Förutsatt att interaktionen mellan nervceller enbart bygger på spikhändelser så har en MPI-baserad parallel implementation utmärkt skalbarhet på ett datorkluster. I många delar av hjärnan och det centrala nervsystemet bygger kommunikationen mellan nervceller ej enbart på diskreta händelser såsom spikar utan är graderade. Elektriska synapser och graderade synapser är två exempel på graderad interaktion. Båda dessa typer av interaktioner är vanliga i retina.

För detta examensarbete har en generell parallel simulator utvecklats i C++. MPI används för utväxling av meddelanden på en parallelldator. För lokal integration av modellnervceller används CVODE, som är en komponent ur det numeriska biblioteket SUNDIALS. En retinamodell utvecklades för att testa simulatorn. Modellen stöder totalt fyra olika celltyper och tre olika typer av synapser: spikande, graderade och elektriska. En enkel prestandamodell har utvecklats.

Slutsatsen av denna undersökning är att man effektivt kan implementera graderade interaktioner på en parallelldator. Detta beror huvudsaklingen på den goda lokaliteten av dessa typer av synapser. Genom lokaliteten, ökar antalet av dessa synapser i ett nätverk, linjärt O(n), där n är antalet nervceller i nätverket.