Inner secrets of Synology Hybrid RAID (SHR) – Part 2

Changing the first disk and my case to Synology support

Now it was time to replace the first disk. As I assumed this would never go wrong (!) and did not plan to document the upgrade, I did not take out any information about the partitions, mdraids and volumes during this first disk swap.

The instructions from Synology are quite good for this (until something breaks down):
Replace Drives to Expand Storage Capacity

Basically it says: replace the disks one by one, start with the smallest and wait until completion before replacing the next.

For the first disk swap, I actually shut down my DS1517 before replacing the disk (many models, including DS1517, supports hot swapping the disks). When the disk was replaced and I powered up the DS1517, and as expected I got the “RAID degraded” beep.
Did a check that the new drive was recognized, and then started the repair of the storage pool. As this will usually take many hours, and this was done in the evening, I have no idea of the actual time spent for repairing (rebuilding) the pool. This was about 90% finished when I stopped looking at the status around midnight that day.

The next day, I see that it had “restarted” (lower percentage than yesterday), but this is actually the next step that is initiated directly after repairing the pool. It’s called “reshaping” and during that process other mdraids are changed and adjusted (if possible) against the new disk.

Changes during the first disk swap

These are only assumptions, because I did not take enough info in between swapping the disk and until about a third into reshaping.

At the point of changing the first disk (refer to the previous part of my article), my storage pool/volume consisted of two mdraids joined together:
md2: RAID 5 of sda5, sdb5, sdc5, sdd5, sde5: total size about 11.7TB
md3: RAID 1 of sdd6, sde6: total size of about 4.8TB

When I pulled the first drive (3TB) and replaced it with a 14TB drive, I assume the partition table on that disk was created like this (status pulled from the mid of reshaping after first disk swap, so I’m pretty sure this is correct):

/dev/sda1                  2048         4982527         4980480  fd
/dev/sda2               4982528         9176831         4194304  fd
/dev/sda5               9453280      5860326239      5850872960  fd
/dev/sda6            5860342336     15627846239      9767503904  fd

sda5 was matched up with the size of the old sda5 (and the ‘5’-partitions on the other disks)
sda6 was also created in either the step before rebuild, or right before reshaping (this partition match the size with the ‘6’-partitions on sdd and sde.
Because the (14T) disk is larger than the previous largest (8TB) one, there are some non-partitioned wasted space (about 5.8TB which will come into use after the next disk swap).


Again, I have not taken any full status dumps so that my information can be confirmed, but this is what I see afterwards, and adding my guesses to it because of the better logging of later disk swaps.

After the storage pool was repaired, reshaping started automatically. During this step, the RAID1 consisting of sdd6 and sde6 (md3) were changed into RAID5 consisting of sda6, sdd6 and sde6.

At about 30% into the reshaping phase, my NAS went unresponsive (disconnected both shell and GUI), and I had to wait all day until I came home and did a hard reset on it and hoped everything went well..

In the meantime, I logged a case to the Synology support (see “Part 2b” of this article). They were not of any direct help, and the hard reset did take the NAS back to continuing the reshaping process.

Inner secrets of Synology Hybrid RAID (SHR) – Part 1

Inner workings of Synology Hybrid RAID

Maybe a too much promising title for this post, but this is my guesswork on how SHR works when replacing drives. If anyone have a spare DS1517 (or later device, with at least 4 slots) to donate, I will investigate this further, cannot afford to do it on my primary NAS because of risk of loosing data – and now even not possible without upgrading the disks again to larger ones).

I will also post here my case (more or less in full) sent to Synology when the NAS got unresponsive (crashed) during the rebuild/reshaping process.

What is Synology Hyrbrid RAID ?

This is in fact the only thing Synology themselves have briefly explained in their documentation:
What is Synology Hybrid RAID (SHR)

My short explanation is that it is a software RAID that is able to maximize the utilization of mixed sized hard drives. For simplicity, Synology illustrates this with drives varying of 500GB to 2TB (in 500GB increments), possibly fooling some people to think that the disks are always split into 500GB partitions.

My findings while expanding my DS1517 (from 3TB, 3TB, 3TB, 8TB, 8TB to all 14TB) is that the remaining space of the drives are splitted in as few parts as possible to obtain the maximum available space (after setting aside about 2.5GB for the DSM (operating system) and 2GB for swap).

Replacing disks and rebuilding the RAID

Before I replaced the first disk, I actually forgot to view and save down the info about the partitions, mdraid volumes and logical volumes (I might have that somewhere else, but I will not look for it now). Based on how it looked after the first disk had been replaced, and the rebuild was done (in the process of reshaping) it should have been something like this:

# sfdisk -l
/dev/sda1                  2048         4982527         4980480  83
/dev/sda2               4982528         9176831         4194304  82
/dev/sda5               9453280      5860326239      5850872960  fd

/dev/sdb1                  2048         4982527         4980480  83
/dev/sdb2               4982528         9176831         4194304  82
/dev/sdb5               9453280      5860326239      5850872960  fd

/dev/sdc1                  2048         4982527         4980480  83
/dev/sdc2               4982528         9176831         4194304  82
/dev/sdc5               9453280      5860326239      5850872960  fd

/dev/sdd1                  2048         4982527         4980480  fd
/dev/sdd2               4982528         9176831         4194304  fd
/dev/sdd5               9453280      5860326239      5850872960  fd
/dev/sdd6            5860342336     15627846239      9767503904  fd

/dev/sde1                  2048         4982527         4980480  fd
/dev/sde2               4982528         9176831         4194304  fd
/dev/sde5               9453280      5860326239      5850872960  fd
/dev/sde6            5860342336     15627846239      9767503904  fd

Note: The partition types for sd[a-c][1-2] seems incorrect as these where changed to “fd” later on during the process, or it might have been something changed by Synology on later DSM versions (but not at the point of updating DSM).

Partitions 1-2 are the system and swap partitions on all the drives, sized 2.5GB respectively 2GB.
Partition 5 is a part of the storage space available in the volume on the NAS. In this case it is about 2.9TB in size (the maximum available on the smallest disks).
Partition 6 is the second part of the total storage space. At this time those partitions are about 4.8TB in size.

mdraid volumes

Out of the partitions above, the Synology creates these mdraid volumes:
md0: RAID 1 of sda1, sdb1, sdc1, sdd1, sde1: total size 2.5GB used for DSM
md1: RAID 1 of sda1, sdb2, sdc2, sdd2, sde2: total size 2GB used for swap
md2: RAID 5 of sda5, sdb5, sdc5, sdd5, sde5: total size about 11.7TB
md3: RAID 1 of sdd6, sde6: total size of about 4.8TB

LVM logical disk

md2 and md3 are joined together into a logical disk using LVM, which gives about 16.5TB space in total for the storage volume on the NAS (Synology DSM says 15.5TB, but the difference is only because of how I estimate the space and how Synology does – I just take the block count, divide by two, then use a one decimal precision – which is adequate enough for this description).

DSM Storage Manager before replacing the first disk

… to be continued in part 2 …

Synology NAS – PHP

Enabling extensions in PHP CLI

Become root
Find out which configuration file is used:
php --ini

I get:
Configuration File (php.ini) Path: /usr/local/etc/php70
Loaded Configuration File: /usr/local/etc/php70/php.ini

Edit the php.ini file, check/change extensions dir to where it is located. If PHP was installed through DSM it should be something like ‘/volume1/\@appstore/PHP7.0’
extension_dir = "/volume1/@appstore/PHP7.0/usr/local/lib/php70/modules/"

Enable the extensions you wish to use:
extension =
extension =
extension =
extension =
extension =

Installing Composer

Composer documentation

Become root
Enable the extensions as above (phar, openssl and zip are needed for Composer).

Get and install Composer:
cd /usr/local/bin
curl -s | php70

Create shortcut script ‘composer’ in /usr/local/bin:
php70 /usr/local/bin/composer.phar $*

Set permissions:
chmod --reference=composer.phar composer

composer --version

Synology NAS – Add disk and include in md0+md1

Adding new disks, including in mirroring of system partitions (md0 and md1)

GNU parted documentation

  1. Add the new disks as hot spare, then remove them (will create the disklabel, otherwise just do this using parted)
  2. Check the partition table of a disk already used for system and swap. Find it by checking mdstat (cat /proc/mdstat)
    # cat /proc/mdstat
    Personalities : [linear] [raid0] [raid1] [raid10] [raid6] [raid5] [raid4]
    md1 : active raid1 sdd2[3] sdb2[1] sdc2[2] sda2[0]
    2097088 blocks [5/4] [UUUU_]
    md0 : active raid1 sdd1[3] sdb1[1] sda1[0] sdc1[2]
    2490176 blocks [5/4] [UUUU_]
    unused devices:
    # parted /dev/sda
    (parted) unit s
    (parted) p
    Model: ATA ST3000DM001-1CH1 (scsi)
    Disk /dev/sda: 5860533168s
    Sector size (logical/physical): 512B/512B
    Partition Table: gpt
    Disk Flags:
    Number Start End Size File system Name Flags
    1 2048s 4982527s 4980480s ext4 raid
    2 4982528s 9176831s 4194304s linux-swap(v1) raid
    (parted) q
  3. Run parted on the new disk
    # parted /dev/sde
    (parted) unit s
    (parted) p
    Model: ATA ST3000DM001-1CH1 (scsi)
    Disk /dev/sda: 5860533168s
    Sector size (logical/physical): 512B/512B
    Partition Table: gpt
    Disk Flags:
    Number Start End Size File system Name Flags
    (parted) mkpart system ext4 2048 4982527
    (parted) mkpart swap linux-swap 4982528 9176831
    (parted) p
    Number Start End Size File system Name Flags
    1 2048s 4982527s 4980480s ext4 system
    2 4982528s 9176831s 4194304s linux-swap(v1) swap
    (parted) q
  4. Add partitions to system and swap
    # mdadm --add /dev/md0 /dev/sde1
    # mdadm --add /dev/md1 /dev/sde2
  5. Check rebuild status using ‘cat /proc/mdstat’
  6. Final result should be something like:
    # cat /proc/mdstat
    Personalities : [linear] [raid0] [raid1] [raid10] [raid6] [raid5] [raid4]
    md1 : active raid1 sde2[4] sdd2[3] sdb2[1] sdc2[2] sda2[0]
    2097088 blocks [5/5] [UUUUU]
    md0 : active raid1 sde1[4] sdd1[3] sdb1[1] sda1[0] sdc1[2]
    2490176 blocks [5/5] [UUUUU]
    unused devices:

Buffalo LS220 – BAMP – Buffalo Apache MySQL PHP

Apache (med PHP-stöd) och MySQL på Buffalo (LS220)

Fullt möjligt, men inte så snabbt.
Jag har på en av mina Buffalos även testat köra WordPress på LS220n, funkar fram till 5.1.1 med förinstallerad version av PHP. Från version 5.2 krävs PHP version 5.6 (jag kommer undersöka om det går att uppdatera php-cgi på Buffalon)

En förutsättning för att få det att fungera är att den är patchad för att tillåta root-inloggning via SSH:
Buffalo LS220 – root access och andra modifieringar

Nästa steg är att få igång en egen virtualhost på den förinstallerade (och tok-felkonfigurerade) Apache 2.2.14 som finns där:
Buffalo LS220 – apache web server
Apache får sitt PHP-stöd genom php-cgi, PHP versionen som är tillgänglig är 5.3.23

Sedan MySQL:
Buffalo LS220 – MySQL server

Övrig Buffalo information

Buffalo forum

Firmware uppdatering

Nyaste firmwaren finns här. Version 1.70 kom i slutet på januari 2018. I början på december 2019 varnade mina LS220s att det finns en ny firmware. 1.73 hade släppts, och timestamp på innehållet i arkivet är 2019-11-19. Mina NASar (och NASNavigator) har slutat att indikera att det finns ny firmware att installera, och jag kör 2020-01-01 fortfarande på 1.70.

Senaste firmware för LS220
Installationen är enkel. Ladda ner senaste versionen, packa upp och starta LSUpdater.exe
Programmet hittar själv de Buffalosar på ditt nät som behöver uppdateras.
Var beredd på att innehåll i /root kommer gå förlorat, likaså allt som är modifierat i filer som följer med systemet (många av modifieringarna nedan).

TFTP-återställning av LS220D

Ifall något går helt snett, eller om båda diskarna byts. Med tanke på hur kasst BuffaloOS är, så kanske det inte ens går byta en disk utan att återställa den.
Completely revocering from a bricked Buffalo Linkstation LS200


Den flersidiga tråden med de av andras och mina inlägg är källan till alla mina Buffalo-artiklar
Hacka Buffalo Linkstation LS220D (LS200, LS400)

Buffalo LS220 – MySQL server

MySQL server på Buffalo LS220

Testad upp till firmware 1.70 (14 sepember 2018)

En del av Buffalo LS220 – BAMP – Buffalo Apache MySQL PHP

Första gången (efter root-patchning)

MySQL 5.1.63 är förinstallerat med firmware 1.67 (säkert samma på äldre) men används inte till något (vad jag känner till).
För att databaserna inte ska gå förlorade är det en bra idé att lägga dom under ‘/mnt/array1’.

Börja med att kopiera konfigurationsfilen för MySQL från /usr/share/mysql:

cp /usr/share/mysql/my-small.cnf /etc/my.cnf

Lägg till ‘datadir’ och ‘pid-file’ under [mysqld] i /etc/my.cnf:

port           = 3306
socket         = /tmp/mysql.sock
pid-file       = /tmp/
datadir        = /var/lib/mysql

Skapa uppdateringssäker lagringsplats för databaserna och länka

mkdir /mnt/array1/mysql
ln -s /mnt/array1/mysql /var/lib

Skapa grupp och användare för MySQL

addgroup -S mysql
adduser -S -s /bin/false  -G mysql -g "MySQL Server" -h /var/lib/mysql mysql

Skapa systemdatabas i /mnt/array1/mysql och sätt rootlösenord

mysql_install_db --user=mysql --datadir=/mnt/array1/mysql
/usr/share/mysql/mysql.server start
/usr/bin/mysqladmin -u root password 'new-password'

Kolla att det fungerar, och länka sen in start/stoppscripten

ln -s /usr/share/mysql/mysql.server /etc/rc.d/extensions.d/S70_mysql.server
ln -s /usr/share/mysql/mysql.server /etc/rc.d/extensions.d/K70_mysql.server

Efter uppdatering av firmware

/etc/passwd och /etc/group oförstörda (alltid nåt, det innebär att mysql-användaren finns kvar)

Kopiera /usr/share/mysql/my-small.cnf till /etc

cp /usr/share/mysql/my-small.cnf /etc/my.cnf

Lägg in ‘datadir’ och ‘pid-file’ i /etc/my.cnf

port           = 3306
socket         = /tmp/mysql.sock
pid-file       = /tmp/
datadir        = /var/lib/mysql

Länka till /var/lib/mysql

ln -s /mnt/array1/mysql /var/lib


/usr/share/mysql/mysql.server start

Länka in start/stoppscripten:

ln -s /usr/share/mysql/mysql.server /etc/rc.d/extensions.d/S70_mysql.server
ln -s /usr/share/mysql/mysql.server /etc/rc.d/extensions.d/K70_mysql.server

Buffalo LS220 – apache web server och PHP

Apache httpd och PHP på Buffalo LS220

Testad upp till firmware 1.70 (14 sepember 2018)

En del av Buffalo LS220 – BAMP – Buffalo Apache MySQL PHP

Apache httpd kommer förinstallerad på LS220. Riktigt kasst konfigurerad, och är tänkt att bara användas för webguiet. Bl.a. ligger en hel del av konfigurationen innästlad i ett <VirtualHost>-block, så aktiverar man de extra konfigurationsfilerna kommer det bli virtualhosts inne i virtualhost-blocket, vilket inte funkar särskilt bra.

Från root-patchad till httpd på en till port

HIttade en hel del i mitt grävande i filstrukturen på den när man väl följt instruktionerna för att kunna ta sig in på den via SSH

* Apache httpd (2.2) finns där för WebAccess. Konfiguration, binärfiler och innehåll ligger i en struktur under /usr/local/webaxs
* Under webaxs/bin finns en del blandade gamla binärer, bl.a en äldre version av perl
* Under webaxs/www ligger WebAccess guiet
* /var/www/webui innehåller det aktuella webbaserade admin-gränssnittet för konfiguration
* PHP 5.3.23 finns installerad, /usr/bin/php-cgi, konfiguration /etc/php.ini
* /www innehåller en hel del rester från Buffalos gamla webadmin (kanske nåt som används också, allt i helt normal Buffalo-stil)

Idén jag ville prova var att starta en PHP-hanterande webserver på port 8000. Har med vissa ful-lösningar runt Buffalos konstigheter fått igång den nu, och ser att den PHP-binär som finns där har rätt så mycket inkompilerat, bl.a stöd för curl, iconv och mysql, så den är inte helt oanvändbar.

Har stött på ett antal problem som jag gått runt:
* i Buffalos httpd.conf för WebAccess har dom lagt in konfigurationen för port 9000 där WebAccess körs direkt i httpd.conf, och dessutom på ett galet sätt – en stor del av huvudkonfigurationen har dom nästlat in i direktivet, så det går inte aktivera inkluderingen av “extra/httpd-vhosts.conf” då det isåfall skulle innebära en <VirtualHost> inne i <VirtualHost>
* Alternativet att lägga in include-raden i slutet på httpd.conf fungerar – men bara tills man ändrar på nåt i konfigurationen via webadmin – för då återställs httpd.conf till den vanliga, trasiga (och det innebär att det inte är nån idé att bygga den på rätt sätt heller), och httpd för WebAccess startas om (så vhosten slutar fungera direkt)

Så här gjorde jag (minimalt för att få det att fungera)

WebAccess måste aktiveras från Buffalons startsida eller “File sharing / Web Access” på den vanliga konfigurationen (det är den del som förstör konfigurationsfilen så att även include hamnar inuti ett virtualhost-block).
Skapa /mnt/array1/web på lämpligt sätt (alltså en share med namnet “web”), och ställ delning och rättigheter som du vill ha det
Skapa ”vhost1” inne i ”web” på valfritt sätt.
Skapa ”logs” inne i ”web” på valfritt sätt (för loggfiler, vi vill inte ha dom åtkomliga för en besökare från utsidan)

Gör en minimal PHP-fil för att kunna testa att det fungerar:
En minimal testfil som visar information om PHP och allt som är konfigurerat där


För att göra så lite fel som möjligt, så lägger jag min virtualhost, port 8000 i “httpd-vhosts.conf”
Jag sparar filen i ‘/mnt/array1/web’ för att den inte ska gå förlorad vid en uppdatering av firmware.

Listen 8000
NameVirtualHost *:8000

<VirtualHost *:8000>
DocumentRoot "/mnt/array1/web/vhost1"
DirectoryIndex index.php index.html

ErrorLog "/mnt/array1/web/logs/vhost1-error.log"
CustomLog "/mnt/array1/web/logs/vhost1-access.log" common

ScriptAlias /local-bin /usr/bin
AddHandler application/x-httpd-php5 php
Action application/x-httpd-php5 /local-bin/php-cgi

Ta bort skräp-httpd-vhosts.conf (default, med exempel), länka in den nya

rm /usr/local/webaxs/apache/conf/extra/httpd-vhosts.conf
ln -s /mnt/array1/web/httpd-vhosts.conf /usr/local/webaxs/apache/conf/extra/

Lägg till följande rad sist i httpd.conf
Include conf/extra/httpd-vhosts.conf

echo >>/usr/local/webaxs/apache/conf/httpd.conf "Include conf/extra/httpd-vhosts.conf"

Starta om webservern

/usr/local/webaxs/apache/bin/apachectl restart

Prova om det funkar
Skriv in din NASs IP-adress i URL-rutan i webläsaren, port 8000 (:8000 på slutet)

Förbered för enklare återställning vid uppdatering:
/mnt/array1/web/ (chmod 700)

rm /usr/local/webaxs/apache/conf/extra/httpd-vhosts.conf
ln -s /mnt/array1/web/httpd-vhosts.conf /usr/local/webaxs/apache/conf/extra/
/usr/local/webaxs/apache/bin/apachectl restart

Lägg till i /mnt/array1/

# check that configuration has not been reset
if ! cat /usr/local/webaxs/apache/conf/httpd.conf | grep '^Include conf/extra/httpd-vhosts.conf' > /dev/null 2>&1; then
  echo >>/usr/local/webaxs/apache/conf/httpd.conf "Include conf/extra/httpd-vhosts.conf"

# Restart Apache if not listening to port 8000
exec 6<>/dev/tcp/ 2>&1>/dev/null || /usr/local/webaxs/apache/bin/apachectl restart

Scriptet kollar om det finns en rad i httpd.conf som börjar med “Include conf/extra…”. Ifall raden är borta, så läggs den dit igen och httpd startas om.
På det här sättet blir det ett avbrott på högst 5 minuter efter det att konfigurationen skrivs över..

Efter att ha uppdaterat firmware

Efter en firmware-uppdatering så förstörs en del av konfigurationen i sedvanlig Buffalo-stil.

Länka tillbaks ‘httpd-vhosts.conf’ från ‘/mnt/array1/web’ genom att köra scriptet som skapades för det:


Lägg tillbaks include-raden i httpd.conf

echo >>/usr/local/webaxs/apache/conf/httpd.conf "Include conf/extra/httpd-vhosts.conf"

Starta om webservern

/usr/local/webaxs/apache/bin/apachectl restart

Kolla att det fungerar.

Scriptet som är inlagt i cron-jobbet sedan tidigare ska både lägga till vhost konfiguration och starta om httpd ifall det behövs. Har du gjort enligt mina tidigare instruktioner är det enda som behöver göras efter uppdatering att länka tillbaka din httpd-vhosts.conf till ‘/usr/local/webaxs/apache/conf/extra/’.