🌐 物理配線図・IPアドレス台帳(173.0.0.x完全版)
📅 最終更新: 2026年3月30日
✅ ステータス: 173.0.0.x ファブリック完全移行完了
🧭 全体トポロジ(物理)
Internet

RTX1300

┌───────┴────────┐
│ XS (12XS CORE) │ ← L3中枢
└───────┬─────────┘
│Po1 LACP(10G×2)
┌───────┴─────────┐
│ 48T ACCESS │
└───────┬─────────┘

MGMT / UPDATE

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
📡 173.0.0.x ファブリックメッシュ
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

Supermicro ════════════ R640
║ ║
║ ║
╚════════ hirame ════╝

• 173.0.0.0/30: SM ↔ R640
• 173.0.0.4/30: SM ↔ hirame
• 173.0.0.8/30: R640 ↔ hirame

🖥️ サーバー IPアドレス台帳
DarkHero(Desktop)
IF名NetworkIP物理接続先GWDNS
DH-MGMTVLAN10192.168.10.101G48T Gi1/0/13❌なし❌なし
DH-WANVLAN40192.168.40.1010GXS Te2/0/3192.168.40.11.1.1.1
DH-FAB-AFabric-A172.31.10.2/3010GSM 直結
DH-FAB-B1Fabric-B172.31.22.2QSFPR640 直結
DH-FAB-B2Fabric-B172.31.23.2QSFPR640 直結
R640(制御ノード)
IF名Linux IFNetworkIP物理接続先GWDNS
R640-IDRACiDRACVLAN10192.168.10.201G48T Gi1/0/7
R640-MGMTeno3VLAN10192.168.10.211G48T Gi1/0/15
R640-UPDeno4VLAN50192.168.50.101G48T Gi1/0/25
R640-DATA1enop216sof0VLAN20192.168.20.2010GXS Te2/0/5192.168.20.11.1.1.1
R640-DATA2eno1VLAN20192.168.20.2110GXS Te2/0/6192.168.20.11.1.1.1
R640-STG1enop216sof1VLAN30192.168.30.2010GXS Te2/0/7
R640-STG2eno2VLAN30192.168.30.2110GXS Te2/0/8
R640-SM-FABenp59s0173.0.0.0/30173.0.0.2QSFPSM 直結
R640-HIRAME-FABenp59s0d1173.0.0.8/30173.0.0.9QSFPhirame 直結
Supermicro(ストレージノード)
IF名Linux IFNetworkIP物理接続先GWDNS
SM-WEBconsoleVLAN10192.168.10.301G48T Gi1/0/9
SM-MGMTeno3VLAN10192.168.10.3110G48T Gi1/0/17
SM-STG1eno1VLAN30192.168.30.3010GXS Te2/0/9
SM-STG2enp1311sf1VLAN30192.168.30.3110GXS Te2/0/10
SM-UPDeno2VLAN50192.168.50.3010G48T Gi1/0/27
SM-FAB-Aeno4Fabric-A172.31.10.110GDH 直結
SM-R640-FABenp129s0173.0.0.0/30173.0.0.1QSFPR640 直結
SM-HIRAME-FABenp129s0d1173.0.0.4/30173.0.0.5QSFPhirame 直結
hirame(X58A-UD3R)
IF名Linux IFNetworkIP物理接続先GWDNS
HIRAME-SM-FABenp4s0d1173.0.0.4/30173.0.0.610GSM 直結
HIRAME-R640-FABenp4s0173.0.0.8/30173.0.0.1010GR640 直結
🔷 スイッチポート割当
XS (3850-12XS) コアスイッチ
Port接続先VLAN役割
Te2/0/1RTX130060WAN uplink
Te2/0/3DarkHero-WAN40外部通信
Te2/0/5R640-DATA120DATA LACP
Te2/0/6R640-DATA220DATA LACP
Te2/0/7R640-STG130STORAGE
Te2/0/8R640-STG230STORAGE
Te2/0/9SM-STG130STORAGE
Te2/0/10SM-STG230STORAGE
Te2/1/348T50 accessLACP-A
Te2/1/448T50 accessLACP-B
48T (3850-48T) アクセススイッチ
Port接続先VLAN用途
Gi1/0/1RTX1300 OOB10OOB管理
Gi1/0/3XS OOB10OOB管理
Gi1/0/548T OOB10OOB管理
Gi1/0/7R640-iDRAC10iDRAC
Gi1/0/9SM-WEB10Web管理
Gi1/0/13DH-MGMT10管理PC
Gi1/0/15R640-MGMT10SSH
Gi1/0/17SM-MGMT10SSH
Gi1/0/25R640-UPD50UPDATE
Gi1/0/27SM-UPD50UPDATE
Gi1/0/37,39,41UPS×310電源管理
Te1/1/3XS50 accessLACP
Te1/1/4XS50 accessLACP
🌐 VLAN・ネットワーク設計
VLANCIDRGW用途外部接続
VLAN10192.168.10.0/2448T内完結管理MGMT❌不可
VLAN20192.168.20.0/24192.168.20.1 (XS)DATA/WG ⭐唯一出口✅WGのみ
VLAN30192.168.30.0/24192.168.30.1 (XS)STORAGE❌不可
VLAN40192.168.40.0/24192.168.40.1 (XS)DH専用✅制限なし
VLAN50192.168.50.0/24192.168.50.1 (XS)UPDATE✅ACL許可先のみ
VLAN60192.168.60.0/24192.168.60.1 (RTX)WAN-LINKRTX専用
173.0.0.0/30SM↔R640ファブリック
173.0.0.4/30SM↔hirameファブリック
173.0.0.8/30R640↔hirameファブリック
⚠️ 重要ルール:
Default Gateway = VLAN20 ONLY (R640/DH-WANのみ)
DNS = VLAN20/40のみ (1.1.1.1)
Fabric = Routing禁止・Internet禁止・DNS不要
– VLAN10は48T内で完全閉域(XSに届かない)
🔧 173.0.0.x ファブリック設定詳細
📋 netplan設定
Supermicro: /etc/netplan/00-supermicro.yaml
network:
version: 2
renderer: networkd
ethernets:
SM-R640-FAB:
match:
macaddress: “50:6b:4b:7f:0b:60”
addresses: [173.0.0.1/30]
dhcp4: false
set-name: “SM-R640-FAB”
SM-HIRAME-FAB:
match:
macaddress: “50:6b:4b:7f:0b:61”
addresses: [173.0.0.5/30]
dhcp4: false
set-name: “SM-HIRAME-FAB”
R640: /etc/netplan/00-mikyun-cloud.yaml(抜粋)
R640-SM-FAB:
match:
macaddress: “70:10:6f:a7:56:f1”
addresses: [173.0.0.2/30]
routes:
– to: 173.0.0.4/30
via: 173.0.0.1
set-name: “R640-SM-FAB”
R640-HIRAME-FAB:
match:
macaddress: “70:10:6f:a7:56:f2”
addresses: [173.0.0.9/30]
set-name: “R640-HIRAME-FAB”
hirame: /etc/netplan/99-static.yaml
HIRAME-SM-FAB:
match:
macaddress: “e4:1d:2d:7a:f1:c2”
addresses: [173.0.0.6/30]
routes:
– to: 192.168.20.0/24
via: 173.0.0.5
– to: 173.0.0.0/30
via: 173.0.0.5
set-name: “HIRAME-SM-FAB”
HIRAME-R640-FAB:
match:
macaddress: “e4:1d:2d:7a:f1:c1”
addresses: [173.0.0.10/30]
set-name: “HIRAME-R640-FAB”
🔐 Supermicro IPフォワーディング設定
SupermicroがR640↔hirame間のルーターとして機能するため、IPフォワーディングとiptablesルールが必要です。
IPフォワーディング有効化
# Supermicro で実行
echo “net.ipv4.ip_forward=1” | sudo tee -a /etc/sysctl.conf
sudo sysctl -p

# 確認
sysctl net.ipv4.ip_forward

iptables FORWARD ルール
# ファブリック間の転送を許可
sudo iptables -I FORWARD -s 173.0.0.0/30 -d 173.0.0.4/30 -j ACCEPT
sudo iptables -I FORWARD -s 173.0.0.4/30 -d 173.0.0.0/30 -j ACCEPT

# 永続化
sudo apt install iptables-persistent -y
sudo netfilter-persistent save

# 確認
sudo iptables -L FORWARD -n -v –line-numbers

📂 NFSマウント設定
Supermicro: /etc/exports
/srv/storage 173.0.0.0/30(rw,sync,no_subtree_check,no_root_squash,fsid=0)
/srv/storage/nextcloud 173.0.0.0/30(rw,sync,no_subtree_check,no_root_squash)
/srv/storage/nextcloud/data 173.0.0.0/30(rw,sync,no_subtree_check,no_root_squash)
/srv/storage/nextcloud/backup 173.0.0.0/30(rw,sync,no_subtree_check,no_root_squash)

# 適用
sudo exportfs -ra
sudo exportfs -v | grep 173.0.0

R640: /etc/fstab
173.0.0.1:/srv/storage/nextcloud-data /srv/storage/SM-storage nfs defaults,_netdev,noatime,nofail,x-systemd.automount 0 0
173.0.0.1:/srv/storage/nextcloud/backup /mnt/backup nfs defaults,_netdev 0 0

# 確認
df -h | grep 173.0.0

✅ 疎通確認コマンド
⚠️ 重要: -I オプションで送信元IPを明示的に指定してファブリック経由を強制してください。
直接リンク確認
# Supermicro → R640
ping -I 173.0.0.1 -c 3 173.0.0.2

# Supermicro → hirame
ping -I 173.0.0.5 -c 3 173.0.0.6

# R640 → Supermicro
ping -I 173.0.0.2 -c 3 173.0.0.1

# R640 → hirame (直接)
ping -I 173.0.0.9 -c 3 173.0.0.10

# hirame → Supermicro
ping -I 173.0.0.6 -c 3 173.0.0.5

# hirame → R640 (直接)
ping -I 173.0.0.10 -c 3 173.0.0.9

ルーティング経由確認(Supermicro経由)
# hirame → R640 (SM経由)
ping -I 173.0.0.6 -c 3 173.0.0.2

# R640 → hirame (SM経由)
ping -I 173.0.0.2 -c 3 173.0.0.6

# 期待結果: ttl=63 (1ホップ)、約0.3ms

✅ 構築完了状態(2026-03-30):
– 全リンク動作確認済み(0.2ms レイテンシ)
– NFSマウント: 173.0.0.1経由で正常動作
– hirameバックアップ: 173.0.0.10経由で正常動作
– iptables・netplan設定永続化完了
– 旧172.31.x.x設定完全廃止